[ "hey", "everybody", "ivan", "from", "weights", "and", "biases", "here", "in", "this", "video", "i'd", "like", "to", "show", "you", "how", "you", "can", "train", "yellow", "version", "five", "on", "google", "co-op", "using", "a", "small", "data", "set", "and", "then", "track", "and", "visualize", "your", "experiments", "using", "weights", "and", "biases", "dashboard", "so", "since", "we're", "gonna", "be", "using", "google", "call", "up", "for", "training", "that", "means", "that", "you", "can", "follow", "along", "by", "just", "clicking", "the", "link", "in", "the", "description", "and", "opening", "the", "call", "of", "notebook", "first", "let's", "clone", "and", "set", "up", "your", "lv5", "repo", "by", "clicking", "on", "the", "first", "cell", "this", "will", "get", "cloned", "the", "yellow", "v5", "repository", "from", "github", "into", "colab", "as", "well", "as", "install", "all", "the", "required", "modules", "along", "the", "way", "once", "the", "setup", "is", "complete", "you", "should", "be", "able", "to", "see", "all", "the", "yellow", "folders", "and", "files", "in", "the", "cola", "file", "view", "now", "to", "make", "sure", "that", "we", "actually", "have", "you", "know", "the", "working", "and", "functioning", "neural", "network", "here", "let's", "run", "the", "inference", "on", "one", "of", "the", "example", "images", "from", "the", "repo", "looking", "good", "so", "far", "now", "the", "example", "data", "set", "that", "we're", "gonna", "be", "using", "is", "coco", "128", "which", "is", "essentially", "a", "really", "small", "data", "set", "with", "just", "128", "first", "images", "from", "the", "original", "coco", "data", "set", "this", "will", "allow", "us", "to", "see", "how", "the", "training", "visualizations", "work", "without", "having", "to", "wait", "for", "too", "long", "you", "know", "for", "the", "model", "to", "train", "let's", "click", "this", "cell", "to", "download", "the", "coco", "128", "data", "set", "we", "can", "now", "see", "it", "appear", "in", "the", "column", "files", "view", "um", "let's", "check", "out", "a", "few", "images", "from", "there", "now", "let's", "move", "on", "to", "the", "exciting", "part", "which", "is", "training", "uh", "versions", "weights", "and", "biases", "are", "a", "part", "of", "yellow", "version", "five", "all", "we", "have", "to", "do", "is", "to", "just", "pip", "install", "wnb", "by", "clicking", "the", "cell", "to", "be", "able", "to", "then", "track", "our", "experiments", "so", "the", "next", "cell", "will", "start", "the", "training", "here", "we", "can", "specify", "the", "input", "resolution", "of", "our", "images", "number", "of", "epochs", "the", "batch", "size", "as", "well", "as", "the", "data", "set", "that", "we're", "using", "and", "last", "but", "not", "least", "we", "also", "specify", "the", "pre-trained", "yellow", "version", "5", "weights", "to", "take", "advantage", "of", "transfer", "learning", "after", "seeing", "the", "logs", "that", "we", "have", "the", "successfully", "loaded", "model", "we", "can", "sign", "into", "our", "weights", "and", "biases", "accounts", "to", "visualize", "the", "results", "if", "you", "don't", "have", "an", "account", "you", "can", "take", "a", "few", "moments", "to", "create", "one", "and", "since", "i", "you", "know", "already", "have", "an", "account", "i'll", "just", "you", "know", "authenticate", "into", "the", "weights", "and", "biases", "dashboard", "now", "the", "training", "has", "started", "if", "it's", "your", "first", "yellow", "version", "5", "run", "weights", "and", "biases", "will", "automatically", "create", "a", "private", "project", "in", "your", "account", "where", "you", "can", "find", "your", "dashboard", "click", "on", "the", "view", "project", "link", "to", "open", "it", "and", "see", "the", "data", "about", "how", "your", "model", "is", "doing", "that's", "being", "automatically", "pulled", "in", "real", "time", "when", "you", "open", "the", "project", "right", "at", "the", "top", "you'll", "see", "one", "of", "my", "favorite", "features", "around", "here", "which", "is", "the", "bounding", "box", "debugger", "let's", "enlarge", "the", "window", "and", "take", "a", "closer", "look", "at", "it", "the", "bounding", "box", "debugger", "plots", "random", "images", "from", "the", "valve", "data", "set", "with", "the", "bounding", "boxes", "and", "the", "confidence", "scores", "giving", "you", "the", "intuition", "for", "what's", "going", "on", "in", "the", "model", "during", "training", "beyond", "just", "you", "know", "the", "raw", "numbers", "and", "the", "training", "logs", "you", "can", "see", "how", "the", "model", "performed", "in", "the", "images", "at", "each", "step", "of", "the", "training", "choose", "the", "confidence", "threshold", "of", "the", "planet", "bounding", "boxes", "or", "to", "display", "or", "not", "display", "certain", "classes", "from", "your", "data", "set", "if", "you", "scroll", "a", "bit", "lower", "you'll", "see", "a", "lot", "of", "useful", "metrics", "including", "the", "average", "precision", "gpu", "usage", "training", "and", "validation", "losses", "those", "are", "", "being", "updated", "in", "real", "time", "as", "your", "model", "trains", "now", "let's", "do", "something", "interesting", "we're", "going", "to", "train", "a", "model", "for", "a", "second", "time", "but", "with", "different", "hyper", "parameters", "just", "for", "example", "i'll", "change", "the", "input", "resolution", "from", "640", "to", "416", "batch", "size", "from", "30", "to", "64", "and", "epochs", "from", "10", "to", "35", "and", "let's", "start", "our", "training", "now", "taking", "a", "look", "at", "the", "dashboard", "again", "", "you'll", "see", "in", "your", "run", "appear", "in", "the", "runs", "panel", "on", "the", "left", "and", "now", "look", "at", "this", "we", "can", "actually", "compare", "the", "performance", "of", "different", "runs", "with", "different", "configurations", "side", "to", "side", "with", "several", "runs", "selected", "the", "bounding", "box", "debugger", "now", "let's", "", "see", "how", "each", "of", "the", "models", "does", "on", "", "each", "of", "the", "images", "selected", "there", "we", "can", "specify", "which", "images", "we", "wanted", "to", "look", "at", "at", "a", "time", "as", "well", "as", "", "at", "what", "training", "step", "and", "what", "what", "are", "going", "to", "be", "the", "confidence", "thresholds", "and", "the", "classes", "that", "we", "wanted", "to", "display", "this", "is", "a", "great", "way", "to", "get", "some", "intuitive", "understanding", "for", "how", "different", "configurations", "of", "your", "models", "actually", "work", "the", "training", "charts", "now", "let", "us", "see", "the", "numbers", "for", "each", "model", "nicely", "plotted", "next", "to", "each", "other", "and", "the", "gpu", "usage", "metrics", "can", "give", "you", "some", "invaluable", "insights", "as", "to", "how", "each", "of", "the", "models", "utilizes", "the", "gpu", "so", "you", "can", "pick", "the", "right", "hardware", "for", "the", "training", "but", "there", "is", "more", "if", "we", "click", "on", "the", "run", "and", "then", "click", "on", "the", "magical", "overview", "button", "for", "the", "run", "we'll", "find", "all", "", "the", "hyper", "parameters", "used", "for", "training", "our", "model", "this", "applies", "to", "all", "of", "the", "runs", "that", "will", "have", "and", "this", "way", "you", "can", "keep", "track", "of", "the", "different", "configurations", "of", "different", "models", "while", "doing", "your", "experiments", "and", "seeing", "how", "they", "perform", "you", "can", "also", "see", "the", "charts", "for", "each", "of", "the", "runs", "all", "the", "different", "system", "metrics", "the", "logs", "during", "training", "", "and", "like", "like", "yeah", "like", "it", "also", "got", "the", "logs", "you", "know", "as", "well", "as", "a", "few", "other", "useful", "files", "stored", "there", "so", "using", "weights", "and", "biases", "to", "track", "your", "yellow", "version", "5", "runs", "and", "train", "models", "gives", "you", "some", "really", "awesome", "insights", "and", "intuitions", "for", "how", "the", "training", "is", "going", "while", "letting", "you", "effectively", "keep", "track", "of", "all", "of", "your", "experiments", "you", "can", "try", "it", "out", "yourself", "on", "google", "co-op", "you", "can", "find", "a", "link", "to", "the", "notebook", "in", "the", "description", "uh", "feel", "free", "to", "train", "some", "models", "and", "track", "some", "awesome", "experiments", "we", "hope", "you", "enjoy", "it" ]

[ "Hey", "everybody,", "Ivan", "", "Weights", "&", "Biases", "here.", "In", "", "", "I'd", "", "", "", "", "", "", "", "", "", "", "", "", "Google", "Colab", "", "", "", "", "", "", "", "", "", "", "", "", "", "Weights", "&", "Biases", "dashboard.", "So,", "", "", "", "", "", "", "", "", "", "training,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "description,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "cell.", "This", "", "git", "clone", "", "", "", "", "", "GitHub", "", "Colab,", "", "", "", "", "", "", "", "modules.", "Once,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "YOLO", "", "", "", "", "", "Colab", "", "view.", "Now,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "here,", "", "", "", "", "", "", "", "", "", "", "", "", "repo.", "Looking", "", "", "far!", "Now,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "train.", "Let's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "colab", "", "", "", "", "", "", "", "", "", "", "there.", "Now,", "", "", "", "", "", "", "part:", "", "", "training.", "First,", "since", "Weights", "&", "Biases", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "wandb", "", "", "this", "", "", "", "", "", "", "", "", "experiments.", "So,", "", "", "", "", "", "", "training.", "Here,", "", "", "", "", "", "", "", "", "images,", "", "", "epochs,", "", "", "size,", "", "", "", "", "", "", "", "", "", "", "", "", "", "least,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "learning.", "After", "", "", "", "", "", "", "", "", "", "model,", "", "", "", "", "", "Weights", "&", "Biases", "", "", "", "", "results.", "If", "", "", "", "", "account,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "I'll", "", "", "", "", "", "", "Weights", "", "Biases", "", "Now,", "", "", "", "started.", "If", "", "", "", "", "", "", "", "Weights", "&", "Biases", "", "automatically.", "", "", "", "", "", "", "", "", "", "", "", "", "dashboard.", "Click", "", "", "\"view", "project\"", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "project,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "debugger.", "Let's", "", "", "", "", "", "", "", "", "", "it.", "The", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "scores,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "logs.", "You", "", "", "", "", "", "", "on", "", "", "", "", "", "", "", "training,", "", "", "", "", "", "", "plotted", "", "boxes,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "lower,", "", "", "", "", "", "", "metrics,", "", "", "Average", "Precision,", "GPU", "usage,", "", "", "", "losses.", "Those", "", "", "", "", "", "", "", "", "", "", "trains.", "Now,", "", "", "", "interesting:", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "example,", "I'll", "", "", "", "", "", "", "", "416,", "", "", "", "", "", "64,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "a", "new", "", "", "", "", "", "", "", "", "left.", "And", "", "", "", "this:", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "selected,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "there.", "We", "", "", "", "", "", "want", "", "", "", "", "", "time,", "", "", "", "", "", "", "", "step,", "", "", "", "", "", "", "", "", "", "thresholds,", "", "", "", "", "", "want", "", "display.", "This", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "work.", "The", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "other.", "And", "", "GPU", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "GPU,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "a", "", "", "", "", "", "", "", "", "", "", "", "run,", "", "", "", "", "", "", "", "", "", "", "", "model.", "This", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "perform!", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "metrics,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "experiments.", "You", "", "", "", "", "", "", "", "", "", "", "", "the", "", "", "", "", "", "", "", "-", "", "", "", "", "", "", "", "", "", "", "experiments.", "We", "", "", "", "it!" ]

[ 1, 2, 1, 0, 1, 7, 1, 2, 1, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 7, 1, 2, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 7, 4, 0, 0, 0, 0, 0, 1, 0, 3, 0, 0, 0, 0, 0, 0, 0, 2, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 7, 0, 2, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 2, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 3, 0, 0, 0, 0, 0, 0, 2, 0, 0, 2, 7, 7, 1, 7, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 2, 3, 0, 0, 0, 0, 0, 0, 2, 3, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 2, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 1, 7, 1, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 1, 0, 1, 0, 3, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 1, 7, 1, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 2, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 7, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 2, 0, 0, 1, 3, 1, 2, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 3, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 4, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 2 ]

[ "today", "we're", "gonna", "talk", "about", "the", "big", "picture", "what", "is", "machine", "learning", "what", "is", "deep", "learning", "how", "does", "it", "really", "work", "and", "where", "can", "we", "apply", "it", "and", "unlike", "some", "of", "the", "other", "videos", "that", "we're", "doing", "here", "this", "isn't", "just", "for", "engineers", "this", "is", "really", "for", "anyone", "that", "wants", "to", "get", "a", "deeper", "understanding", "about", "how", "machine", "learning", "actually", "works", "and", "there's", "tons", "of", "videos", "out", "there", "that", "talk", "about", "various", "aspects", "of", "machine", "learning", "but", "the", "gap", "that", "I", "want", "to", "fill", "in", "is", "really", "showing", "people", "where", "they", "can", "apply", "machine", "learning", "because", "it", "applies", "to", "so", "many", "things", "but", "it", "doesn't", "apply", "to", "every", "single", "thing", "on", "the", "planet", "and", "I", "think", "you", "really", "need", "to", "kind", "of", "have", "a", "sense", "of", "how", "it", "actually", "works", "behind", "the", "scenes", "because", "if", "you", "just", "think", "if", "it", "is", "magic", "it's", "really", "unclear", "where", "I", "should", "be", "thinking", "ah", "that's", "a", "machine", "learning", "problem", "and", "that's", "not", "a", "machine", "learning", "problem", "we", "have", "to", "acknowledge", "there's", "an", "incredible", "amount", "of", "hype", "around", "machine", "learning", "right", "now", "and", "one", "of", "the", "manifestations", "of", "that", "may", "be", "while", "you're", "watching", "this", "video", "is", "because", "the", "people", "that", "understand", "how", "to", "do", "machine", "learning", "are", "being", "paid", "huge", "salaries", "right", "now", "startups", "are", "being", "acquired", "left", "and", "right", "not", "for", "the", "technology", "but", "just", "for", "their", "machine", "learning", "and", "deep", "learning", "expertise", "even", "McKinsey", "thinks", "this", "is", "going", "to", "be", "a", "huge", "market", "not", "tomorrow", "but", "in", "the", "in", "the", "near", "near", "future", "so", "I", "think", "it's", "important", "to", "back", "up", "and", "ask", "ourselves", "and", "talk", "about", "what", "can", "machine", "learning", "really", "do", "right", "now", "today", "the", "best", "resource", "for", "all", "the", "applications", "is", "a", "blog", "written", "by", "Siobhan", "Zyliss", "where", "she", "covered", "this", "in", "depth", "but", "I", "want", "to", "go", "through", "a", "range", "of", "the", "applications", "that", "are", "out", "there", "so", "first", "of", "all", "the", "TSA", "now", "says", "that", "deep", "learning", "can", "find", "weapons", "on", "passengers", "better", "than", "human", "agents", "deep", "learning", "can", "count", "your", "cells", "and", "it", "can", "look", "for", "cancer", "in", "a", "biopsy", "it", "can", "find", "endangered", "animals", "and", "aerial", "photos", "it", "can", "automatically", "detect", "weeds", "on", "farms", "from", "tractors", "and", "it", "can", "help", "you", "build", "crazy", "robots", "that", "impress", "your", "friends", "so", "all", "these", "different", "examples", "come", "from", "different", "industries", "and", "involve", "incredibly", "different", "types", "of", "inputs", "and", "outputs", "so", "you", "might", "be", "really", "surprised", "to", "learn", "that", "machine", "learning", "the", "whole", "disap", "and", "actually", "has", "an", "incredibly", "restrictive", "API", "or", "data", "type", "that", "it", "needs", "for", "inputs", "and", "outputs", "and", "so", "actually", "getting", "things", "like", "audio", "and", "images", "and", "text", "into", "the", "format", "that", "machine", "learning", "takes", "and", "actually", "interpreting", "the", "very", "restrictive", "format", "that", "it", "outputs", "for", "your", "application", "is", "a", "huge", "piece", "of", "machine", "learning", "that", "no", "one", "really", "talks", "about", "and", "it's", "what", "we're", "gonna", "talk", "about", "for", "the", "rest", "of", "this", "video", "first", "let's", "get", "our", "definition", "straight", "because", "there's", "a", "lot", "of", "confusion", "so", "deep", "learning", "is", "a", "type", "of", "machine", "learning", "maybe", "the", "most", "exciting", "type", "of", "machine", "learning", "right", "now", "machine", "learning", "is", "a", "discipline", "of", "artificial", "intelligence", "probably", "the", "most", "exciting", "field", "in", "artificial", "intelligence", "right", "now", "and", "so", "all", "of", "the", "use", "cases", "that", "I", "gave", "are", "actually", "machine", "learning", "problems", "and", "what", "we", "care", "about", "today", "is", "machine", "learning", "most", "AI", "departments", "right", "now", "focus", "on", "machine", "learning", "because", "it's", "the", "part", "of", "AI", "that's", "really", "working", "I", "think", "of", "machine", "learning", "as", "statistics", "applied", "to", "AI", "so", "here's", "the", "canonical", "machine", "learning", "problem", "we", "have", "a", "picture", "of", "a", "cat", "we", "want", "to", "do", "some", "black", "magic", "and", "somehow", "classify", "our", "picture", "as", "a", "cat", "so", "how", "does", "that", "work", "so", "in", "order", "to", "answer", "that", "question", "let's", "back", "up", "a", "second", "and", "talk", "about", "the", "canonical", "statistics", "problem", "there's", "many", "data", "sets", "that", "could", "have", "used", "but", "for", "some", "reason", "I", "use", "the", "data", "set", "of", "baby", "chickens", "where", "I", "have", "their", "ages", "and", "weight", "in", "machine", "learning", "these", "examples", "would", "be", "called", "training", "data", "imagine", "we're", "a", "farmer", "and", "we", "want", "to", "predict", "from", "our", "data", "that", "we've", "collected", "if", "we", "have", "a", "baby", "chicken", "that's", "18", "days", "old", "how", "much", "would", "we", "expect", "it", "to", "weigh", "here", "we're", "gonna", "build", "a", "model", "to", "fit", "to", "our", "training", "data", "to", "answer", "that", "question", "you", "may", "not", "have", "had", "exactly", "this", "problem", "before", "but", "you", "may", "have", "done", "something", "like", "this", "you", "can", "actually", "do", "it", "in", "Excel", "and", "it's", "called", "linear", "regression", "if", "you've", "ever", "made", "a", "trendline", "through", "your", "data", "it's", "probably", "using", "linear", "regression", "we", "can", "actually", "plot", "these", "points", "and", "these", "are", "the", "ages", "and", "the", "weights", "of", "the", "chickens", "and", "this", "is", "our", "training", "data", "that", "we", "use", "to", "build", "a", "model", "this", "line", "this", "trend", "line", "this", "linear", "regression", "actually", "makes", "predictions", "for", "any", "age", "so", "we", "can", "look", "at", "eight", "ten", "days", "in", "the", "x-axis", "and", "see", "that", "the", "line", "is", "at", "170", "on", "the", "y-axis", "so", "our", "models", "predicting", "that", "a", "baby", "chicken", "will", "weigh", "a", "hundred", "and", "seventy", "grams", "when", "it's", "18", "days", "old", "now", "that's", "linear", "regression", "but", "we", "can", "do", "fancier", "things", "too", "even", "with", "this", "tiny", "data", "set", "in", "this", "case", "I", "fitted", "an", "exponential", "curve", "and", "it", "makes", "a", "slightly", "different", "regression", "you", "might", "ask", "yourself", "do", "you", "think", "this", "line", "models", "the", "data", "better", "okay", "now", "here's", "another", "valid", "regression", "I", "did", "where", "I", "fit", "a", "more", "complicated", "equation", "this", "line", "doesn't", "look", "to", "me", "like", "it", "models", "the", "data", "very", "well", "but", "it", "goes", "through", "every", "point", "we", "have", "meaning", "that", "it", "models", "the", "training", "data", "perfectly", "so", "what's", "happening", "here", "is", "something", "called", "overfitting", "I'm", "a", "complicated", "line", "went", "through", "all", "the", "points", "perfectly", "but", "it", "won't", "generalize", "as", "well", "to", "new", "points", "that", "we", "haven't", "seen", "before", "and", "as", "models", "become", "more", "complicated", "they", "tend", "to", "overfit", "we", "don't", "usually", "worry", "too", "much", "about", "overfitting", "in", "a", "statistics", "101", "class", "with", "linear", "regression", "because", "it's", "such", "a", "simple", "model", "that", "it's", "hard", "for", "it", "to", "overfit", "but", "as", "our", "equations", "get", "more", "complicated", "and", "our", "data", "gets", "more", "complicated", "overfitting", "becomes", "more", "and", "more", "of", "an", "issue", "the", "graph", "on", "the", "left", "is", "modeling", "the", "data", "in", "a", "simple", "way", "but", "it's", "probably", "missing", "some", "of", "the", "pattern", "in", "the", "data", "the", "graph", "on", "the", "right", "is", "actually", "touching", "all", "the", "dots", "meaning", "that", "it's", "perfectly", "fitting", "the", "training", "data", "but", "it's", "probably", "overfitting", "the", "training", "data", "the", "graph", "in", "the", "middle", "gets", "closer", "to", "the", "training", "data", "points", "but", "doesn't", "get", "as", "close", "to", "the", "graph", "on", "the", "right", "but", "maybe", "models", "the", "data", "better", "than", "the", "graph", "on", "the", "left", "as", "we", "collect", "more", "and", "more", "data", "in", "the", "world", "we're", "able", "to", "build", "more", "and", "more", "complicated", "models", "deep", "learning", "really", "describes", "a", "trend", "towards", "extremely", "complicated", "equations", "with", "potentially", "millions", "of", "parameters", "and", "millions", "of", "data", "points", "so", "how", "complicated", "should", "we", "make", "our", "models", "and", "how", "should", "we", "constrain", "them", "to", "keep", "them", "from", "overfitting", "that's", "what", "machine", "learning", "research", "is", "really", "all", "about", "so", "these", "single", "graphs", "might", "seem", "like", "toy", "problems", "but", "predicting", "one", "variable", "from", "one", "other", "variable", "can", "get", "really", "complicated", "on", "its", "own", "if", "you", "could", "predict", "where", "this", "graph", "of", "the", "stock", "market", "is", "going", "better", "than", "anyone", "else", "you", "can", "make", "a", "money", "so", "another", "fundamental", "question", "in", "deep", "learning", "is", "actually", "what", "are", "we", "optimizing", "these", "two", "lines", "both", "try", "to", "go", "as", "close", "as", "possible", "to", "the", "points", "in", "the", "graph", "or", "all", "the", "points", "in", "the", "training", "data", "but", "they", "actually", "of", "a", "different", "definition", "of", "close", "one", "of", "the", "lines", "here", "is", "the", "line", "with", "the", "smallest", "sum", "of", "the", "vertical", "distance", "from", "the", "line", "to", "all", "the", "points", "while", "the", "other", "is", "optimizing", "the", "smallest", "squared", "sum", "of", "the", "vertical", "distance", "it", "might", "seem", "like", "a", "small", "difference", "but", "clearly", "these", "graphs", "look", "very", "different", "if", "you", "just", "do", "a", "default", "regression", "you're", "usually", "optimizing", "the", "square", "of", "the", "distance", "which", "you", "also", "may", "know", "as", "the", "squared", "error", "can", "you", "tell", "which", "line", "is", "optimizing", "which", "metric", "if", "you", "want", "you", "could", "pause", "the", "video", "and", "think", "about", "it", "because", "I'm", "about", "to", "tell", "you", "okay", "you're", "back", "I'm", "sure", "you", "thought", "deeply", "about", "which", "is", "optimizing", "squared", "which", "is", "optimizing", "absolute", "error", "and", "you", "probably", "concluded", "that", "the", "left", "is", "optimizing", "the", "squared", "error", "and", "the", "right", "is", "optimizing", "the", "absolute", "error", "when", "you", "optimize", "the", "squared", "error", "the", "outliers", "actually", "affect", "the", "line", "a", "lot", "more", "pulling", "it", "away", "from", "the", "majority", "of", "points", "to", "me", "the", "left", "doesn't", "look", "as", "good", "of", "a", "fit", "as", "the", "graph", "on", "the", "right", "but", "actually", "if", "you", "model", "this", "in", "Excel", "or", "any", "normal", "stats", "program", "it'll", "probably", "default", "to", "the", "graph", "on", "the", "Left", "which", "actually", "might", "not", "be", "what", "you", "really", "want", "so", "which", "model", "is", "really", "better", "it", "actually", "depends", "on", "what", "you're", "doing", "and", "what's", "happening", "downstream", "from", "your", "model", "in", "all", "the", "graphs", "we've", "looked", "at", "so", "far", "we", "only", "have", "one", "input", "and", "one", "output", "but", "usually", "we", "have", "more", "than", "one", "input", "so", "here", "we", "have", "not", "just", "the", "age", "of", "the", "chicken", "we", "add", "the", "type", "of", "diet", "that", "it", "was", "exposed", "to", "encoded", "as", "a", "number", "now", "from", "those", "two", "variables", "we", "want", "to", "predict", "weight", "this", "is", "something", "we", "actually", "still", "can", "do", "in", "Excel", "we", "have", "input", "training", "data", "and", "output", "we", "can", "use", "linear", "regression", "but", "it's", "harder", "to", "visualize", "what's", "going", "on", "this", "makes", "it", "actually", "easier", "to", "overfit", "and", "we're", "getting", "closer", "to", "what's", "traditionally", "thought", "of", "as", "machine", "learning", "and", "deep", "learning", "back", "to", "our", "cat", "classification", "problem", "what", "does", "this", "have", "to", "do", "with", "what", "we've", "been", "talking", "about", "so", "far", "here's", "the", "statistics", "API", "and", "it's", "very", "strict", "we", "have", "an", "input", "that", "has", "to", "be", "a", "fixed", "list", "of", "numbers", "in", "our", "first", "example", "it", "was", "a", "single", "number", "in", "our", "multivariable", "regression", "example", "it", "was", "two", "numbers", "check", "age", "and", "check", "diet", "our", "model", "also", "outputs", "a", "fixed", "list", "of", "numbers", "so", "far", "all", "of", "our", "models", "have", "output", "only", "one", "number", "the", "way", "we", "generate", "our", "statistical", "models", "is", "by", "feeding", "in", "a", "set", "of", "examples", "in", "machine", "learning", "this", "is", "usually", "called", "training", "data", "and", "the", "examples", "always", "have", "the", "fixed", "inputs", "and", "outputs", "in", "the", "case", "of", "the", "chicks", "we", "fed", "in", "five", "lists", "of", "age", "and", "weight", "and", "built", "a", "linear", "regression", "model", "it", "turns", "out", "and", "a", "lot", "of", "people", "are", "surprised", "by", "this", "the", "machine", "learning", "API", "is", "identical", "to", "the", "statistics", "API", "we", "usually", "have", "more", "than", "one", "input", "and", "we", "often", "have", "more", "than", "one", "output", "but", "the", "inputs", "and", "outputs", "still", "have", "to", "be", "fixed", "length", "lists", "of", "numbers", "and", "behind", "the", "scenes", "we're", "still", "just", "generating", "a", "model", "from", "the", "training", "data", "just", "like", "with", "linear", "regression", "the", "model", "is", "just", "an", "equation", "but", "in", "machine", "learning", "we", "think", "of", "it", "as", "a", "very", "complicated", "equation", "we", "search", "for", "the", "best", "model", "according", "to", "some", "metric", "or", "some", "loss", "function", "but", "often", "that", "metric", "is", "just", "squared", "error", "in", "the", "same", "way", "that", "we", "use", "it", "for", "linear", "regression", "training", "is", "just", "searching", "for", "the", "best", "model", "according", "to", "some", "metric", "or", "loss", "function", "and", "often", "that", "loss", "function", "is", "just", "squared", "error", "the", "same", "as", "we", "normally", "use", "for", "linear", "regression", "so", "what", "are", "some", "of", "the", "machine", "learning", "techniques", "besides", "linear", "regression", "and", "why", "would", "we", "pick", "one", "over", "the", "other", "it", "actually", "depends", "a", "lot", "on", "what", "kind", "of", "overfitting", "we're", "worried", "about", "how", "much", "training", "data", "we", "have", "and", "how", "many", "input", "and", "output", "variables", "there", "are", "a", "very", "popular", "and", "useful", "Python", "library", "called", "scikit-learn", "that", "you", "may", "have", "used", "actually", "built", "a", "fantastic", "flow", "chart", "that", "summarizes", "five", "years", "of", "grad", "school", "and", "helps", "you", "pick", "the", "best", "possible", "model", "based", "on", "these", "aspects", "of", "your", "training", "data", "another", "way", "to", "think", "about", "model", "to", "use", "is", "to", "look", "at", "what", "other", "people", "are", "doing", "kaggle", "a", "super", "cool", "data", "science", "platform", "had", "a", "survey", "of", "all", "its", "machine", "learning", "practitioners", "and", "asked", "them", "which", "techniques", "they", "use", "in", "their", "day-to-day", "jobs", "you've", "probably", "heard", "lately", "that", "neural", "networks", "are", "becoming", "popular", "but", "good", "old", "logistic", "regression", "which", "is", "just", "a", "modification", "of", "the", "linear", "regression", "we", "were", "talking", "about", "earlier", "it's", "still", "really", "the", "most", "commonly", "used", "technique", "another", "popular", "machine", "learning", "technique", "you", "may", "have", "heard", "of", "is", "called", "decision", "trees", "one", "thing", "I", "like", "about", "this", "algorithm", "is", "it's", "really", "easy", "to", "explain", "what", "it", "does", "is", "it", "picks", "one", "of", "the", "input", "variables", "and", "it", "chooses", "a", "threshold", "to", "say", "if", "the", "variables", "above", "the", "threshold", "go", "left", "and", "if", "the", "variables", "below", "the", "threshold", "go", "right", "and", "then", "at", "the", "leaves", "of", "this", "tree", "it", "predicts", "a", "specific", "number", "for", "the", "output", "a", "popular", "and", "useful", "variant", "of", "the", "decision", "tree", "algorithm", "is", "called", "decision", "forests", "or", "random", "forests", "when", "we", "use", "decision", "forests", "we", "actually", "build", "up", "hundreds", "or", "thousands", "or", "tens", "of", "thousands", "of", "decision", "trees", "we", "like", "each", "of", "those", "trees", "make", "a", "prediction", "and", "then", "we", "aggregate", "the", "predictions", "in", "some", "way", "neural", "networks", "are", "another", "type", "of", "model", "that", "recently", "has", "become", "very", "popular", "and", "has", "had", "a", "lot", "of", "breakthroughs", "so", "we're", "gonna", "go", "really", "deep", "on", "it", "in", "this", "video", "series", "and", "when", "we", "talk", "about", "deep", "learning", "we're", "usually", "talking", "about", "neural", "networks", "but", "one", "thing", "I", "really", "want", "to", "demystify", "here", "is", "despite", "the", "evocative", "name", "neural", "networks", "they're", "really", "just", "an", "equation", "like", "anything", "else", "and", "the", "inputs", "and", "the", "outputs", "are", "just", "like", "all", "these", "other", "machine", "learning", "techniques", "and", "statistical", "techniques", "that", "we've", "been", "talking", "about", "ok", "so", "how", "do", "we", "get", "this", "cat", "problem", "into", "this", "machine", "learning", "API", "that", "we", "keep", "talking", "about", "this", "picture", "of", "a", "cat", "is", "not", "a", "fixed", "array", "of", "numbers", "and", "the", "output", "is", "definitely", "not", "a", "fixed", "array", "of", "numbers", "so", "first", "we", "have", "to", "turn", "the", "cat", "image", "into", "a", "fix", "like", "the", "numbers", "and", "we", "can", "do", "this", "by", "taking", "the", "red", "green", "and", "blue", "values", "from", "each", "pixel", "and", "putting", "them", "into", "a", "long", "list", "then", "we", "have", "to", "make", "our", "network", "output", "something", "we", "can", "interpret", "as", "a", "label", "light", "cat", "one", "way", "to", "do", "this", "is", "to", "set", "up", "our", "network", "to", "output", "a", "number", "for", "any", "particular", "type", "of", "image", "we", "might", "see", "here", "we", "have", "a", "network", "that's", "outputting", "four", "numbers", "a", "cat", "score", "a", "fish", "score", "a", "dog", "score", "and", "an", "other", "score", "and", "we're", "gonna", "interpret", "one", "in", "the", "cat", "score", "to", "me", "that", "the", "image", "is", "a", "cat", "now", "we", "have", "a", "machine", "learning", "problem", "in", "the", "machine", "learning", "API", "so", "now", "behind", "the", "scenes", "we", "can", "build", "a", "neural", "network", "we", "can", "build", "linear", "regression", "or", "we", "can", "build", "a", "decision", "tree", "or", "anything", "else", "we", "might", "want", "to", "solve", "this", "machine", "learning", "problem", "actually", "though", "there's", "one", "more", "important", "step", "which", "is", "that", "we", "need", "to", "find", "more", "images", "of", "cats", "this", "is", "called", "training", "data", "collection", "and", "it's", "often", "the", "most", "important", "and", "usually", "overlooked", "step", "these", "models", "are", "just", "mathematical", "equations", "they", "have", "no", "common", "sense", "built", "into", "them", "all", "they", "can", "do", "is", "find", "patterns", "in", "the", "numbers", "so", "for", "example", "if", "all", "the", "cats", "in", "our", "training", "data", "look", "the", "same", "no", "machine", "learning", "model", "will", "be", "able", "to", "figure", "out", "what", "a", "cat", "actually", "is", "we", "also", "need", "to", "find", "examples", "of", "anything", "else", "that", "we", "want", "to", "classify", "it", "training", "that", "it", "is", "actually", "so", "important", "to", "machine", "learning", "and", "so", "important", "to", "me", "personally", "that", "over", "a", "decade", "ago", "I", "started", "a", "company", "called", "figure", "8", "that", "helps", "companies", "collect", "training", "data", "if", "you", "need", "more", "training", "data", "and", "if", "you're", "doing", "machine", "learning", "you", "probably", "need", "more", "training", "data", "you", "actually", "could", "check", "out", "figure", "it", "and", "use", "it", "or", "you", "could", "try", "one", "of", "its", "vastly", "inferior", "competitors", "it", "might", "seem", "trivial", "to", "turn", "images", "into", "a", "fixed", "array", "of", "numbers", "from", "just", "using", "the", "bitmap", "values", "but", "what", "about", "something", "like", "speech", "what", "if", "we", "want", "to", "build", "a", "mini", "Alexa", "that", "classifies", "sounds", "it's", "a", "hello", "or", "goodbye", "feel", "free", "to", "pause", "the", "video", "and", "ponder", "how", "we", "would", "do", "this", "it", "turns", "out", "there's", "no", "real", "consensus", "on", "the", "best", "way", "to", "turn", "audio", "into", "numbers", "but", "one", "trendy", "way", "to", "do", "this", "now", "is", "to", "just", "use", "the", "waveform", "of", "the", "sound", "as", "a", "list", "of", "numbers", "now", "there's", "one", "problem", "with", "this", "which", "is", "that", "all", "the", "sounds", "will", "be", "different", "lengths", "and", "actually", "all", "the", "arrays", "in", "our", "data", "have", "to", "be", "the", "same", "length", "but", "one", "simple", "obvious", "way", "to", "deal", "with", "this", "is", "truncate", "the", "sounds", "to", "a", "fixed", "length", "of", "time", "or", "assume", "that", "the", "sounds", "are", "completely", "quiet", "once", "the", "utterance", "is", "complete", "there", "are", "actually", "several", "other", "common", "ways", "to", "do", "this", "transformation", "and", "it", "turns", "out", "that", "the", "transform", "a", "in", "itself", "from", "the", "data", "into", "this", "very", "constrained", "API", "of", "machine", "learning", "is", "often", "the", "most", "critical", "choice", "in", "building", "a", "machine", "learning", "model", "what", "if", "we", "don't", "have", "audio", "or", "video", "what", "if", "we", "have", "text", "oftentimes", "companies", "want", "to", "classify", "it", "tweets", "about", "them", "as", "being", "positive", "or", "negative", "about", "their", "brand", "I", "actually", "have", "a", "video", "later", "on", "that", "that", "goes", "into", "detail", "about", "exactly", "how", "to", "do", "this", "in", "build", "models", "but", "for", "now", "let's", "just", "think", "about", "how", "we", "transform", "that", "text", "into", "numbers", "again", "amazingly", "there's", "no", "real", "consensus", "on", "how", "to", "do", "this", "transformation", "one", "very", "common", "approach", "is", "actually", "to", "make", "a", "list", "of", "all", "the", "words", "in", "the", "English", "language", "or", "whatever", "languages", "your", "text", "is", "in", "and", "count", "the", "number", "of", "times", "each", "word", "occurs", "into", "your", "document", "you", "end", "up", "with", "a", "list", "of", "lots", "of", "zeros", "but", "actually", "fits", "our", "criteria", "it's", "always", "the", "same", "length", "and", "it's", "always", "full", "of", "numbers", "here's", "a", "harder", "one", "this", "is", "common", "in", "self-driving", "cars", "we", "want", "to", "look", "at", "every", "single", "picture", "an", "image", "and", "classify", "what", "objects", "each", "pixel", "corresponds", "to", "so", "for", "example", "you", "can't", "just", "say", "there's", "a", "road", "in", "the", "image", "we", "have", "to", "say", "which", "parts", "the", "image", "are", "the", "road", "and", "which", "parts", "of", "the", "image", "are", "a", "sidewalk", "so", "here's", "an", "example", "image", "and", "here's", "actually", "an", "example", "output", "how", "does", "this", "work", "once", "again", "there's", "more", "than", "one", "way", "to", "do", "it", "and", "this", "video", "will", "probably", "be", "soon", "out-of-date", "but", "the", "most", "common", "way", "to", "do", "it", "right", "now", "is", "to", "literally", "treat", "the", "input", "of", "numbers", "and", "the", "output", "of", "numbers", "as", "arrays", "of", "the", "same", "length", "so", "in", "this", "case", "the", "output", "numbers", "are", "actually", "labels", "of", "what's", "given", "in", "each", "pixel", "here's", "an", "even", "trickier", "one", "bounding", "boxes", "we", "want", "to", "put", "boxes", "around", "the", "things", "in", "the", "image", "that", "we", "care", "about", "there", "could", "be", "any", "number", "of", "things", "that", "we", "care", "about", "but", "remember", "our", "output", "has", "to", "be", "a", "fixed", "length", "one", "way", "to", "do", "it", "and", "there", "are", "actually", "other", "good", "ways", "to", "do", "it", "but", "one", "way", "is", "to", "generate", "a", "candidate", "list", "of", "possible", "boxes", "and", "then", "run", "a", "classifier", "that", "looks", "at", "the", "pixels", "in", "an", "image", "and", "the", "candidate", "box", "itself", "and", "classifies", "not", "only", "what's", "in", "the", "box", "but", "whether", "or", "not", "that", "box", "is", "a", "good", "image", "that", "should", "be", "considered", "a", "bounding", "box", "a", "downside", "of", "this", "method", "is", "that", "you", "have", "to", "consider", "potentially", "thousands", "or", "millions", "of", "classifications", "per", "image", "you", "may", "need", "to", "look", "at", "that", "last", "part", "a", "few", "times", "to", "really", "get", "it", "I", "know", "that", "I", "had", "to", "but", "the", "key", "takeaway", "here", "is", "that", "framing", "the", "machine", "learning", "problem", "really", "really", "matters", "for", "example", "with", "object", "recognition", "the", "way", "we", "frame", "the", "problem", "earlier", "you", "have", "no", "chance", "of", "seeing", "an", "object", "or", "recognizing", "an", "object", "that", "you've", "never", "seen", "in", "your", "training", "data", "so", "how", "would", "you", "ever", "recognize", "an", "object", "that", "you", "haven't", "seen", "before", "people", "can", "do", "this", "one", "way", "to", "possibly", "recognize", "an", "object", "that", "you", "haven't", "had", "in", "your", "training", "data", "is", "to", "actually", "frame", "the", "problem", "instead", "of", "recognizing", "a", "single", "object", "as", "recognizing", "if", "two", "objects", "are", "the", "same", "so", "now", "our", "input", "is", "actually", "two", "objects", "and", "the", "classification", "task", "is", "are", "these", "two", "objects", "the", "same", "thing", "are", "not", "the", "same", "thing", "this", "is", "called", "a", "pairwise", "classifier", "and", "this", "actually", "sometimes", "can", "classify", "objects", "that's", "never", "seen", "before", "like", "the", "eggbeater", "in", "this", "diagram", "voice", "recognition", "identifying", "endangered", "animals", "and", "aerial", "photography", "building", "crazy", "face", "recognizing", "drones", "what", "are", "these", "applications", "all", "have", "in", "common", "why", "do", "we", "think", "of", "them", "as", "machine", "learning", "applications", "it's", "because", "we're", "able", "to", "fit", "them", "into", "this", "very", "constrained", "specific", "API", "that's", "common", "to", "all", "machine", "learning", "and", "deep", "learning", "problems", "and", "so", "if", "you're", "thinking", "okay", "is", "my", "problem", "suitable", "for", "machine", "learning", "or", "deep", "learning", "what", "you", "should", "be", "asking", "yourself", "is", "can", "I", "turn", "it", "into", "this", "kind", "of", "problem", "where", "I", "have", "a", "fixed", "length", "of", "numbers", "as", "input", "and", "if", "fixed", "like", "the", "numbers", "is", "output", "and", "can", "I", "collect", "training", "data", "or", "examples", "to", "show", "my", "model", "to", "build", "my", "machine", "learning", "system", "if", "the", "answer", "to", "those", "questions", "are", "yes", "then", "you", "really", "do", "have", "a", "machine", "learning", "problem", "and", "hopefully", "that's", "got", "you", "excited", "enough", "about", "all", "the", "applications", "of", "machine", "learning", "that", "you", "want", "to", "watch", "further", "videos", "that", "explain", "actually", "how", "to", "build", "these", "models", "and", "how", "to", "deploy", "these", "models", "and", "we're", "gonna", "keep", "creating", "these", "videos", "so", "you", "should", "probably", "subscribe", "so", "that", "you're", "the", "first", "to", "know", "when", "a", "new", "video", "comes" ]

[ "Today", "", "", "", "", "", "", "picture.", "What", "", "", "learning?", "What", "", "", "learning?", "How", "", "", "", "work?", "And", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "here,", "This", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "learning,", "", "", "", "", "", "", "", "", "", "", "Really", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Scenes", "", "", "", "", "", "", "", "", "magic,", "", "", "", "", "", "", "", "", "Ah,", "", "", "", "", "problem.", "And", "", "", "", "", "", "problem.", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "why", "", "", "", "", "", "", "The", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Startups", "", "", "", "", "", "", "", "", "", "technology,", "", "", "", "", "", "", "", "", "", "", "Even", "", "", "", "", "", "", "", "", "", "", "", "tomorrow,", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "The", "", "", "", "", "", "", "", "", "", "", "", "Shivon", "Zilis", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "all,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Deep", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "It", "", "", "", "", "", "", "photos.", "It", "", "", "", "", "", "", "", "", "", "It", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "Come", "", "", "", "", "", "", "", "", "", "", "", "outputs.", "So", "", "", "", "", "", "", "", "", "Machine", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Text", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "This", "", "first.", "Let's", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "learning.", "Maybe", "", "", "", "", "", "", "", "", "", "Machine", "", "", "", "", "", "", "", "Probably", "", "", "", "", "", "", "", "", "", "And", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Most", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "problem.", "We", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "cat.", "So,", "", "", "", "work?", "So", "", "", "", "", "", "question,", "", "", "", "", "", "", "", "", "", "", "", "", "There's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Where", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Imagine", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "That's", "", "", "old.", "How", "", "", "", "", "", "", "weigh?", "Here,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "You", "", "", "", "", "", "", "", "", "", "", "", "If", "", "", "", "", "", "", "", "data,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "This", "", "", "", "", "", "", "", "", "", "", "", "This", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "That's", "", "regression,", "", "", "", "", "", "", "too.", "Even", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "You", "", "", "yourself.", "Do", "", "", "", "", "", "", "", "better?", "Okay,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "This", "", "", "", "", "", "", "", "", "", "", "", "well,", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "As", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Because", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "The", "", "", "", "", "", "", "", "", "", "", "", "way,", "", "", "", "", "", "", "", "", "", "", "", "The", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "We're", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Extremely", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "overfitting?", "That's", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "If", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "optimizing?", "These", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Or", "", "", "", "", "", "", "data,", "", "", "", "", "", "", "", "", "", "One", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "From", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "It", "", "", "", "", "", "difference.", "But", "", "", "", "", "", "", "If", "", "", "", "", "", "regression,", "", "", "", "", "", "", "", "distance,", "", "", "", "", "", "", "", "", "", "Can", "", "", "", "", "", "", "", "", "if?", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Okay,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "error,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Me", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "It'll", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "better?", "It", "", "", "", "", "", "", "And", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "far.", "We", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Now", "", "", "", "", "", "", "", "", "weight.", "This", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "regression,", "", "", "", "", "", "", "", "", "This", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Back", "", "", "cat.", "Classification", "", "What", "", "", "", "", "", "", "", "", "", "", "", "", "far?", "Here's", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "It", "", "", "", "", "", "", "", "", "example.", "It", "", "", "", "", "", "", "", "", "Our", "", "", "", "", "", "", "", "", "", "far.", "All", "", "", "", "", "", "", "", "", "The", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Outputs", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "It", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "We're", "", "", "", "", "", "", "", "", "", "Just", "", "", "", "regression.", "The", "", "", "", "", "equation,", "", "", "", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Training", "", "", "", "", "", "", "", "", "", "", "Metric", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "other?", "It", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Five", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Another", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "kaggle,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Techniques", "", "", "", "", "", "", "You've", "", "", "", "", "", "", "", "", "popular,", "", "", "", "", "regression,", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "It's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "One", "", "", "", "", "", "", "", "", "", "", "", "", "What", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Popular", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "When", "", "", "", "forests,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Neural", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "learning,", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "They're", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Machine", "", "", "", "", "", "", "", "", "", "", "Ok.", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Not", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Then", "", "", "", "", "", "", "Output", "", "", "", "", "", "", "", "", "", "One", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "here,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Interpret", "", "", "", "", "", "", "", "", "", "", "", "", "", "Now", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "else.", "We", "", "", "", "", "", "", "", "", "Actually,", "though,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "This", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "These", "", "", "", "", "equations.", "They", "", "", "", "", "", "", "", "All", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "Look", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Training", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "And", "", "", "", "", "", "", "", "", "", "", "", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "It", "", "", "", "To", "", "", "", "", "", "", "", "", "", "", "", "", "", "values,", "", "", "", "", "", "speech?", "What", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Feel", "", "", "", "", "", "", "", "", "", "", "", "", "It", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "To", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Or", "", "", "", "", "", "", "quiet.", "Once", "", "", "", "", "There", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "From", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "What", "", "", "", "", "", "", "", "", "", "", "", "text?", "Oftentimes", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "models,", "", "For", "now,", "", "", "", "", "", "", "", "", "", "", "", "Again", "", "", "", "", "", "", "", "", "", "", "", "One", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "And", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "It's", "", "", "", "length,", "", "", "", "", "", "", "Here's", "", "", "", "This", "", "", "", "", "cars.", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So,", "", "example,", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "output.", "How", "", "", "work?", "Once", "", "There's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "out-of-date,", "", "", "", "", "", "", "", "", "Right", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "case,", "", "", "", "", "", "", "", "", "", "", "", "", "Here's", "", "", "", "", "Bounding", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "There", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "One", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Classifier", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Not", "", "", "", "", "box,", "", "", "", "", "", "", "", "", "", "image.", "That", "", "", "", "", "", "", "A", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "it.", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "matters?", "For", "", "", "", "", "", "", "", "", "", "", "", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "this?", "One", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Recognizing", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "This", "", "", "", "", "", "And", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Building", "", "", "", "drones.", "What", "", "", "", "", "", "", "common?", "Why", "", "", "", "", "", "", "", "", "applications?", "It's", "", "", "", "", "", "", "", "", "", "", "Specific", "", "", "", "", "", "", "", "", "", "", "", "And", "", "", "", "", "", "", "", "", "Suitable", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "this?", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Can", "", "", "", "", "or?", "Examples", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Hopefully", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Should", "", "", "So", "", "", "", "", "", "", "", "", "", "", "" ]

[ 1, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 2, 1, 0, 0, 2, 1, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 3, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 3, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 2, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 2, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 2, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 2, 1, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 2, 1, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 3, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 3, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 1, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 1, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 1, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 3, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 2, 1, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]

[ "so", "in", "the", "last", "video", "we", "built", "the", "classifier", "that", "could", "predict", "whether", "or", "not", "a", "handwritten", "digit", "was", "a", "5", "or", "not", "and", "in", "this", "video", "we're", "gonna", "take", "those", "techniques", "and", "generalize", "them", "so", "that", "we", "have", "a", "neural", "network", "that", "can", "predict", "exactly", "what", "digit", "we're", "dealing", "with", "not", "just", "a", "5", "but", "a", "4", "3", "and", "so", "on", "and", "along", "the", "way", "we're", "gonna", "learn", "a", "bunch", "of", "new", "techniques", "that", "are", "generalizable", "to", "making", "all", "neural", "networks", "work", "better", "the", "perceptron", "algorithm", "if", "you", "think", "about", "it", "it's", "very", "very", "constrained", "it", "can", "only", "output", "a", "single", "number", "so", "how", "do", "we", "take", "the", "output", "of", "a", "single", "number", "and", "turn", "that", "into", "a", "prediction", "for", "each", "possible", "digit", "you", "might", "if", "you", "feel", "up", "for", "it", "stop", "the", "video", "now", "and", "think", "about", "it", "welcome", "back", "I'm", "gonna", "tell", "you", "how", "to", "do", "it", "one", "way", "you", "might", "have", "thought", "of", "it", "just", "not", "how", "we're", "going", "to", "do", "it", "is", "just", "have", "the", "number", "be", "between", "0", "and", "10", "instead", "of", "0", "and", "1", "and", "basically", "rounded", "it", "down", "and", "say", "okay", "if", "it", "output", "8.5", "then", "that's", "an", "8", "if", "it", "outputs", "7.2", "then", "we", "pricked", "it", "adjust", "to", "7", "and", "for", "a", "number", "of", "reasons", "that's", "not", "the", "normal", "way", "to", "do", "it", "so", "we're", "gonna", "actually", "do", "it", "a", "different", "way", "which", "is", "we're", "going", "to", "have", "10", "perceptrons", "that", "run", "in", "parallel", "and", "we're", "basically", "going", "to", "say", "whichever", "perceptron", "outputs", "the", "highest", "number", "that's", "going", "to", "be", "the", "digit", "that", "we", "predict", "so", "we", "basically", "of", "a", "perceptron", "responsible", "for", "classifying", "zeros", "and", "then", "another", "one", "responsible", "for", "classifying", "ones", "and", "so", "on", "and", "which", "every", "one", "is", "the", "highest", "output", "that", "is", "the", "prediction", "that", "our", "whole", "classifier", "is", "making", "remember", "Rosenblatt", "the", "perceptron", "inventor", "from", "the", "last", "video", "this", "is", "actually", "the", "same", "as", "what", "he", "did", "so", "he", "would", "set", "up", "multiple", "light", "bulbs", "corresponding", "to", "each", "class", "and", "whichever", "light", "bulb", "lit", "up", "the", "brightest", "was", "considered", "to", "be", "the", "class", "of", "the", "image", "in", "our", "case", "we're", "gonna", "have", "10", "perceptrons", "corresponding", "to", "each", "digit", "and", "like", "I", "said", "what", "we'd", "like", "our", "classifier", "to", "do", "is", "output", "a", "1", "or", "number", "really", "close", "to", "1", "for", "the", "digit", "that", "was", "actually", "written", "in", "the", "image", "and", "a", "0", "for", "all", "the", "other", "digits", "and", "what", "we're", "specifically", "gonna", "optimize", "for", "is", "our", "output", "being", "close", "to", "the", "target", "in", "other", "words", "our", "loss", "function", "will", "be", "the", "difference", "between", "each", "of", "these", "digits", "and", "each", "of", "these", "outputs", "that", "we", "want", "so", "here's", "a", "quick", "question", "to", "kind", "of", "test", "your", "understanding", "how", "many", "weights", "does", "our", "algorithm", "have", "now", "you", "can", "stop", "and", "think", "about", "this", "one", "too", "I'll", "get", "back", "to", "in", "a", "minute", "okay", "let's", "go", "to", "the", "code", "so", "you", "should", "be", "back", "in", "the", "video", "intro", "directory", "and", "you", "should", "have", "checked", "out", "my", "code", "go", "back", "to", "the", "previous", "video", "if", "you", "haven't", "open", "up", "perceptron", "-", "linear", "dot", "pi", "now", "up", "to", "120", "everything", "is", "exactly", "the", "same", "as", "in", "our", "last", "tutorial", "in", "fact", "it's", "a", "little", "simpler", "because", "we", "can", "just", "use", "Y", "underscore", "test", "as", "our", "output", "instead", "of", "trying", "to", "make", "a", "new", "variable", "that", "says", "if", "it's", "a", "5", "or", "not", "now", "in", "lines", "20", "and", "21", "we", "need", "to", "do", "something", "called", "one-hot", "in", "coding", "our", "output", "one", "Hunton", "coding", "is", "super", "common", "in", "machine", "learning", "and", "especially", "in", "neural", "networks", "you", "basically", "transform", "your", "data", "which", "is", "a", "number", "into", "a", "list", "of", "ones", "and", "zeros", "we", "take", "the", "list", "on", "the", "left", "and", "we", "turn", "it", "into", "the", "table", "on", "the", "right", "so", "a3", "becomes", "zero", "zero", "zero", "one", "zero", "zero", "zero", "zero", "zero", "zero", "now", "why", "do", "we", "do", "it", "it's", "because", "we", "need", "to", "be", "explicit", "about", "what", "we", "want", "our", "network", "to", "output", "our", "network", "is", "going", "to", "output", "a", "list", "of", "ten", "numbers", "one", "from", "each", "perceptron", "and", "if", "our", "label", "is", "a", "three", "what", "we", "really", "wanted", "to", "do", "is", "outputting", "out", "a", "three", "but", "zero", "zero", "zero", "one", "zero", "zero", "zero", "zero", "zero", "okay", "so", "lines", "20", "and", "21", "change", "Y", "underscore", "train", "and", "Y", "underscore", "test", "into", "one", "hot", "encoded", "variables", "what", "is", "the", "dimension", "of", "Y", "underscore", "train", "before", "this", "transformation", "it's", "a", "list", "of", "60,000", "numbers", "what", "is", "the", "dimension", "of", "whiner", "square", "training", "after", "this", "transformation", "it's", "a", "matrix", "with", "60,000", "rows", "and", "10", "columns", "where", "every", "entry", "is", "either", "a", "1", "or", "a", "0", "stop", "the", "video", "and", "rewind", "if", "you", "need", "to", "think", "about", "this", "or", "you", "go", "into", "the", "code", "and", "print", "out", "the", "variables", "and", "look", "at", "them", "but", "we'll", "go", "on", "we", "set", "num", "underscore", "classes", "from", "the", "shape", "of", "y", "underscore", "training", "in", "this", "case", "no", "meter", "square", "classes", "is", "ten", "of", "corresponding", "to", "ten", "digits", "that", "we", "want", "to", "predict", "now", "our", "model", "looks", "really", "similar", "to", "the", "model", "we", "saw", "in", "the", "last", "video", "sequential", "is", "the", "same", "flatten", "is", "the", "same", "dense", "now", "takes", "an", "input", "num", "class", "in", "the", "set", "of", "1", "this", "means", "that", "we're", "training", "ten", "Tron's", "and", "her", "output", "will", "be", "a", "list", "of", "size", "10", "instead", "of", "one", "like", "it", "was", "before", "everything", "else", "is", "the", "same", "for", "now", "and", "we", "can", "run", "her", "model", "and", "you", "know", "your", "model", "might", "run", "slower", "", "faster", "depending", "on", "the", "speed", "of", "your", "computer", "my", "model", "gets", "around", "60%", "accuracy", "on", "this", "run", "and", "note", "that", "this", "is", "not", "deterministic", "and", "neural", "networks", "in", "general", "are", "not", "stir", "monistic", "so", "you", "might", "get", "a", "somewhat", "different", "number", "it's", "always", "really", "important", "when", "doing", "any", "kind", "of", "machine", "learning", "to", "think", "about", "baselines", "what", "accuracy", "would", "random", "guessing", "get", "on", "this", "data", "set", "maybe", "stop", "and", "think", "about", "it", "okay", "I'll", "tell", "you", "there's", "ten", "digits", "in", "our", "data", "and", "our", "data", "is", "actually", "evenly", "distributed", "so", "random", "guessing", "say", "we", "get", "zero", "every", "time", "or", "just", "random", "numbers", "we'd", "get", "around", "ten", "percent", "accuracy", "so", "we", "can", "pat", "ourselves", "on", "the", "back", "and", "say", "that", "our", "model", "is", "doing", "better", "than", "random", "weird", "actually", "better", "than", "our", "model", "did", "in", "the", "first", "episode", "of", "this", "series", "so", "we're", "off", "to", "a", "good", "start", "but", "there", "are", "a", "ton", "of", "ways", "to", "improve", "this", "model", "the", "first", "thing", "we", "should", "probably", "do", "is", "fix", "the", "activation", "function", "and", "that's", "actually", "something", "we", "did", "in", "the", "last", "video", "so", "remember", "that", "our", "target", "values", "are", "zeros", "and", "ones", "but", "our", "weighted", "sum", "can", "be", "anything", "a", "sigmoid", "or", "a", "soft", "max", "activation", "function", "will", "take", "the", "weighted", "sum", "and", "squeeze", "its", "output", "to", "a", "number", "between", "0", "and", "1", "Rosenblatt", "in", "fact", "use", "the", "same", "activation", "function", "with", "perceptrons", "and", "it's", "a", "little", "unusual", "that", "we", "left", "it", "out", "it", "helped", "us", "a", "lot", "in", "the", "last", "video", "so", "let's", "add", "it", "back", "by", "setting", "activation", "equals", "soft", "max", "to", "the", "line", "where", "we", "make", "the", "perceptrons", "you", "basically", "always", "want", "to", "use", "a", "soft", "max", "activation", "function", "on", "the", "last", "layer", "of", "your", "network", "if", "you're", "doing", "classification", "and", "the", "simple", "reason", "to", "do", "this", "is", "that", "you", "want", "to", "constrain", "your", "output", "to", "be", "between", "0", "&", "1", "and", "you", "can", "see", "this", "works", "significantly", "better", "right", "off", "the", "bat", "I'm", "getting", "around", "37", "38", "percent", "accuracy", "this", "is", "where", "we", "stopped", "last", "time", "but", "what", "else", "can", "we", "do", "let's", "take", "another", "look", "at", "that", "loss", "function", "so", "this", "gets", "a", "little", "mathy", "but", "loss", "functions", "really", "matter", "in", "this", "diagram", "I", "have", "two", "linear", "regressions", "we're", "used", "to", "linear", "regression", "optimizing", "squared", "error", "but", "actually", "you", "can", "optimize", "lots", "of", "thing", "here", "one", "graph", "optimizes", "the", "absolute", "distance", "between", "the", "line", "and", "the", "points", "and", "the", "other", "optimizes", "the", "square", "the", "distance", "can", "you", "guess", "which", "is", "which", "I", "actually", "do", "this", "in", "the", "prequel", "video", "but", "take", "some", "time", "to", "think", "about", "it", "if", "you", "haven't", "seen", "this", "before", "this", "surprises", "lots", "of", "students", "but", "the", "left", "is", "actually", "optimizing", "squared", "error", "and", "the", "right", "is", "optimizing", "absolute", "error", "squared", "error", "means", "that", "the", "distance", "to", "a", "point", "is", "squared", "so", "further", "points", "actually", "have", "a", "lot", "more", "pull", "on", "the", "line", "than", "points", "closer", "to", "the", "line", "outliers", "have", "a", "big", "effect", "on", "squared", "error", "and", "much", "less", "of", "an", "effect", "an", "absolute", "error", "loss", "functions", "matter", "a", "lot", "with", "neural", "nets", "also", "we've", "been", "using", "mean", "squared", "error", "but", "when", "you're", "working", "with", "probabilities", "categorical", "cross", "entropy", "is", "really", "the", "thing", "you", "want", "to", "use", "now", "this", "is", "a", "part", "you", "can", "skip", "ahead", "of", "or", "just", "let", "your", "eyes", "glaze", "over", "and", "the", "takeaway", "I'll", "tell", "you", "is", "that", "you", "should", "always", "use", "categorical", "cross", "entropy", "if", "you're", "categorizing", "things", "but", "many", "students", "always", "want", "to", "know", "why", "is", "it", "and", "I'll", "try", "to", "explain", "it", "without", "getting", "into", "too", "much", "math", "categorical", "cross", "entropy", "loss", "makes", "neural", "networks", "output", "their", "true", "power", "probability", "of", "an", "outcome", "so", "if", "the", "answer", "you're", "looking", "for", "is", "one", "categorical", "cross", "entropy", "will", "give", "you", "an", "infinite", "loss", "sieve", "prick", "zero", "and", "diminishing", "returns", "the", "closer", "your", "prick", "to", "one", "remember", "that", "with", "a", "loss", "function", "lower", "is", "better", "and", "higher", "is", "worse", "I'll", "tell", "you", "I", "took", "a", "class", "at", "Stanford", "a", "long", "time", "ago", "where", "every", "question", "was", "a", "multiple-choice", "question", "and", "we", "had", "to", "put", "our", "probability", "belief", "of", "each", "answer", "not", "just", "the", "answer", "that", "we", "thought", "was", "most", "likely", "and", "we", "were", "actually", "scored", "with", "categorical", "cross", "entropy", "if", "we", "put", "that", "we", "thought", "the", "probability", "of", "an", "answer", "was", "zero", "and", "it", "turned", "out", "to", "be", "the", "right", "answer", "we", "would", "get", "negative", "infinity", "points", "and", "fail", "the", "entire", "class", "so", "we", "would", "never", "put", "a", "probability", "of", "zero", "unless", "you're", "100%", "sure", "it", "wasn't", "the", "answer", "if", "the", "teacher", "had", "given", "us", "just", "as", "many", "points", "as", "the", "probability", "score", "we", "put", "on", "the", "right", "answer", "we", "wouldn't", "have", "been", "properly", "incentivized", "and", "we", "wouldn't", "have", "put", "any", "probability", "on", "the", "low", "probability", "answers", "and", "you", "probably", "need", "to", "stop", "and", "think", "about", "that", "I", "know", "I", "would", "need", "to", "stop", "and", "think", "about", "that", "and", "if", "it", "really", "didn't", "make", "any", "sense", "or", "if", "you", "want", "to", "think", "about", "more", "later", "it's", "totally", "fine", "the", "main", "point", "again", "is", "that", "you", "should", "always", "use", "categorical", "cross", "entropy", "as", "your", "loss", "function", "when", "doing", "classification", "let's", "try", "it", "so", "where", "it", "used", "to", "say", "MSC", "or", "mean", "squared", "error", "we", "change", "it", "to", "categorical", "underscore", "cross", "entropy", "and", "as", "you", "can", "see", "this", "improves", "things", "quite", "a", "bit", "and", "it's", "another", "benefit", "is", "that", "we", "can", "trust", "the", "output", "of", "these", "perceptrons", "to", "be", "guessed", "probabilities", "of", "the", "different", "digits", "okay", "but", "we're", "not", "done", "yet", "there's", "another", "thing", "that", "tutorials", "never", "cover", "that's", "super", "important", "it's", "getting", "neural", "networks", "to", "work", "well", "which", "is", "normalizing", "your", "data", "so", "neural", "networks", "are", "not", "what's", "known", "as", "scale", "invariant", "if", "you", "take", "your", "data", "and", "you", "divide", "it", "all", "by", "two", "or", "multiply", "it", "by", "ten", "some", "algorithms", "won't", "change", "decision", "trees", "and", "random", "forests", "they", "don't", "care", "about", "the", "actual", "magnitude", "of", "your", "data", "but", "neural", "nets", "actually", "really", "do", "and", "when", "you're", "working", "with", "carrots", "actually", "most", "of", "the", "well-known", "neural", "network", "libraries", "like", "tensor", "flow", "or", "pi", "torch", "you'll", "get", "much", "better", "results", "if", "you", "normalize", "your", "data", "to", "be", "between", "zero", "and", "one", "or", "negative", "one", "and", "one", "and", "actually", "in", "our", "case", "our", "data", "is", "between", "zero", "and", "255", "so", "it's", "way", "outside", "of", "the", "range", "that", "our", "network", "is", "expecting", "to", "have", "the", "data", "in", "right", "now", "all", "of", "our", "data", "is", "between", "0", "to", "255", "and", "we", "want", "to", "be", "between", "0", "and", "1", "so", "let's", "try", "just", "adding", "X", "underscore", "train", "divide", "equals", "255", "which", "should", "divide", "every", "value", "in", "X", "underscore", "train", "by", "255", "we", "also", "do", "the", "same", "thing", "for", "X", "underscore", "test", "we", "save", "our", "file", "and", "we", "run", "it", "what", "happens", "we", "had", "a", "really", "scary", "looking", "error", "message", "it", "turns", "out", "that", "we", "need", "to", "cast", "our", "X", "underscore", "train", "and", "next", "underscore", "test", "of", "floats", "right", "now", "they're", "set", "to", "integers", "we", "can", "add", "X", "underscore", "train", "equals", "X", "underscore", "train", "debt", "as", "type", "flow", "if", "you're", "having", "trouble", "following", "along", "the", "complete", "working", "code", "is", "in", "perceptron", "-", "normalize", "dot", "pi", "and", "it", "turns", "out", "that", "this", "little", "change", "helps", "a", "ton", "normalizing", "data", "is", "a", "messy", "detail", "of", "neural", "networks", "that", "people", "just", "don't", "talk", "about", "enough", "okay", "guys", "we've", "made", "a", "ton", "of", "progress", "here", "you'll", "never", "make", "this", "much", "progress", "this", "fast", "ever", "in", "your", "career", "trust", "me", "we've", "gone", "from", "50%", "accuracy", "to", "90%", "accuracy", "in", "10", "minutes", "so", "it's", "worth", "recapping", "what", "we", "did", "so", "one", "is", "reset", "our", "activation", "function", "to", "be", "softmax", "which", "is", "a", "good", "idea", "we", "set", "our", "loss", "function", "to", "categorical", "cross-entropy", "which", "is", "a", "good", "idea", "if", "you're", "doing", "categorization", "and", "we", "normalize", "their", "data", "which", "is", "almost", "always", "a", "good", "idea", "but", "there's", "still", "actually", "a", "lot", "more", "to", "go", "right", "now", "we", "only", "have", "a", "single", "layer", "of", "perceptrons", "which", "is", "really", "far", "from", "deep", "learning", "before", "we", "go", "on", "how", "many", "weights", "does", "our", "model", "have", "each", "label", "or", "output", "is", "connected", "to", "each", "pixel", "or", "input", "and", "there's", "784", "inputs", "and", "there's", "10", "outputs", "so", "there's", "gonna", "be", "a", "total", "of", "7840", "weights", "in", "our", "model", "and", "actually", "I", "lied", "to", "you", "there's", "a", "few", "more", "each", "perceptron", "has", "it's", "called", "a", "bias", "term", "which", "is", "an", "input", "always", "set", "to", "one", "you", "don't", "really", "have", "to", "worry", "about", "that", "but", "to", "get", "the", "exact", "answer", "there's", "really", "7850", "parameters", "for", "this", "model", "to", "learn", "you", "can", "always", "check", "that", "by", "calling", "model", "", "summary", "in", "fact", "let's", "do", "that", "quickly", "now", "so", "as", "you", "can", "see", "the", "flattened", "layer", "has", "no", "trainable", "parameters", "since", "it", "always", "is", "the", "same", "thing", "every", "time", "and", "the", "dense", "layer", "has", "7850", "trainable", "parameters", "despite", "having", "all", "these", "parameters", "our", "model", "can", "actually", "only", "look", "at", "individual", "correlations", "between", "a", "pixel", "and", "a", "label", "if", "you", "want", "to", "capture", "interactions", "between", "pixels", "we", "need", "to", "make", "our", "model", "more", "complicated", "a", "multi-layer", "perceptron", "takes", "the", "output", "of", "some", "number", "of", "perceptrons", "and", "uses", "them", "as", "input", "to", "more", "perceptrons", "here", "the", "input", "comes", "in", "from", "the", "bottom", "and", "there's", "a", "hidden", "intermediate", "layer", "the", "intermediate", "perceptrons", "were", "just", "like", "the", "output", "perceptrons", "but", "they", "don't", "classify", "anything", "they", "just", "output", "numbers", "typically", "these", "days", "hidden", "layers", "use", "an", "activation", "function", "called", "relu", "a", "rectified", "linear", "unit", "a", "complicated", "name", "for", "unbelievably", "simple", "algorithm", "it", "just", "truncates", "the", "negative", "values", "basically", "it", "turns", "out", "all", "nonlinear", "activation", "functions", "work", "very", "similarly", "and", "reloj", "is", "just", "really", "fast", "and", "has", "some", "other", "benefits", "so", "it's", "used", "for", "intermediate", "layers", "most", "of", "the", "time", "okay", "you", "can", "try", "to", "modify", "our", "existing", "code", "or", "you", "could", "take", "a", "look", "at", "MLP", "type", "pie", "where", "we", "set", "this", "up", "for", "you", "this", "code", "is", "super", "similar", "it's", "our", "perceptron", "model", "with", "really", "just", "a", "single", "important", "line", "added", "and", "that's", "line", "40", "and", "what", "this", "line", "does", "is", "it", "adds", "a", "second", "dense", "layer", "with", "a", "number", "of", "hidden", "nodes", "now", "we", "set", "this", "in", "config", "that", "hidden", "nodes", "200", "but", "you", "can", "definitely", "try", "other", "numbers", "now", "let's", "run", "MLP", "type", "I", "and", "see", "what", "happens", "one", "thing", "you'll", "notice", "right", "away", "is", "that", "this", "model", "takes", "a", "lot", "longer", "to", "Train", "but", "over", "time", "it", "gets", "better", "now", "there's", "another", "issue", "that's", "more", "subtle", "but", "super", "important", "which", "is", "that", "our", "accuracy", "now", "starts", "to", "get", "higher", "than", "our", "validation", "accuracy", "in", "fact", "if", "you", "run", "this", "model", "for", "a", "while", "the", "accuracy", "will", "get", "a", "lot", "better", "and", "the", "validation", "accuracy", "will", "not", "improve", "this", "is", "a", "phenomenon", "known", "as", "overfitting", "as", "models", "become", "more", "complicated", "overfitting", "becomes", "more", "and", "more", "of", "an", "issue", "and", "it", "can", "happen", "in", "all", "kinds", "of", "domains", "including", "single", "variable", "regression", "here's", "the", "line", "in", "the", "middle", "is", "a", "little", "more", "free", "than", "the", "straight", "line", "is", "on", "the", "left", "but", "if", "we", "let", "our", "line", "move", "around", "too", "much", "it", "can", "just", "go", "through", "all", "the", "points", "without", "really", "capturing", "the", "data", "how", "do", "you", "know", "if", "you're", "overfitting", "when", "you're", "training", "accuracy", "is", "better", "than", "your", "validation", "accuracy", "remember", "that", "our", "validation", "accuracy", "is", "the", "accuracy", "on", "data", "that", "the", "model", "did", "not", "see", "while", "it", "was", "training", "so", "the", "validation", "accuracy", "is", "a", "better", "estimate", "of", "how", "our", "model", "is", "actually", "going", "to", "do", "try", "setting", "the", "number", "of", "hidden", "nodes", "to", "a", "larger", "and", "larger", "number", "and", "see", "what", "happens", "what", "happens", "oh", "wait", "okay", "we're", "back", "maybe", "that's", "took", "you", "an", "hour", "if", "you", "really", "did", "it", "probably", "the", "training", "accuracy", "gets", "better", "and", "better", "but", "the", "validation", "accuracy", "or", "accurate", "send", "into", "the", "model", "hasn't", "seen", "before", "gets", "worse", "and", "worse", "or", "at", "least", "just", "flattens", "out", "as", "models", "get", "more", "and", "more", "complicated", "they", "have", "the", "potential", "to", "do", "better", "and", "better", "but", "overfitting", "becomes", "more", "and", "more", "of", "a", "problem", "in", "general", "overfitting", "is", "a", "huge", "problem", "with", "neural", "nets", "but", "there's", "actually", "one", "awesome", "silver", "bullet", "and", "that", "silver", "bullet", "is", "dropout", "dropout", "is", "a", "simple", "easy", "to", "explain", "algorithm", "that", "helps", "a", "ton", "on", "every", "batch", "of", "data", "we", "said", "some", "fraction", "of", "the", "inputs", "in", "a", "layer", "to", "zero", "why", "is", "this", "a", "good", "idea", "you", "might", "want", "to", "stop", "the", "video", "and", "to", "think", "about", "this", "for", "a", "second", "the", "way", "I", "like", "to", "think", "about", "it", "is", "that", "it", "forces", "the", "network", "to", "learn", "more", "than", "one", "reason", "for", "every", "classification", "imagine", "a", "pixel", "in", "the", "upper", "left", "was", "always", "lit", "up", "if", "and", "only", "if", "the", "digit", "was", "a", "seven", "our", "network", "could", "happily", "learn", "the", "only", "needs", "to", "look", "at", "the", "upper", "left-hand", "digit", "to", "decide", "if", "the", "handwritten", "number", "was", "a", "seven", "to", "optimize", "the", "loss", "in", "the", "training", "data", "but", "drop", "out", "would", "force", "the", "network", "to", "learn", "multiple", "pathways", "for", "deciding", "if", "a", "digit", "is", "a", "seven", "because", "some", "fraction", "of", "the", "time", "that", "value", "would", "be", "hidden", "dropout", "turns", "off", "when", "you", "deploy", "your", "model", "or", "when", "you", "run", "your", "model", "on", "a", "held", "out", "set", "it's", "really", "easy", "to", "add", "you", "should", "just", "add", "dropout", "layers", "between", "your", "perceptron", "layers", "and", "check", "out", "what", "it", "does", "you", "now", "when", "we", "train", "our", "model", "the", "training", "accuracy", "is", "actually", "worse", "than", "the", "validation", "accuracy", "but", "the", "great", "thing", "is", "that", "our", "validation", "accuracy", "can", "keep", "going", "up", "as", "we", "make", "our", "model", "more", "and", "more", "complicated", "a", "great", "rule", "of", "thumb", "is", "this", "if", "you're", "training", "accuracy", "is", "higher", "than", "your", "validation", "or", "test", "accuracy", "you're", "overfitting", "if", "you", "are", "overfitting", "anything", "you", "can", "do", "to", "make", "your", "model", "fancier", "or", "more", "complicated", "is", "only", "going", "to", "hurt", "you", "you", "need", "to", "stop", "and", "fix", "that", "overfitting", "and", "the", "easiest", "way", "to", "fix", "overfitting", "is", "almost", "always", "that", "dropout", "it's", "typically", "put", "between", "every", "layer", "with", "free", "parameters", "so", "this", "was", "part", "of", "the", "densest", "video", "that", "we're", "going", "to", "make", "and", "we", "covered", "a", "ton", "of", "material", "we", "covered", "overfitting", "we", "covered", "data", "normalization", "we", "covered", "building", "a", "multi", "class", "perceptron", "and", "a", "multi-layer", "perceptron", "but", "we", "actually", "still", "haven't", "squeezed", "out", "all", "the", "performance", "that", "we", "can", "out", "of", "a", "data", "set", "like", "this", "and", "to", "get", "that", "final", "ounce", "of", "performance", "we're", "gonna", "have", "to", "build", "a", "convolutional", "neural", "network", "and", "I", "know", "you", "guys", "are", "excited", "to", "build", "a", "convolutional", "neural", "network", "so", "stay", "tuned", "for", "the", "next", "video", "well", "guys", "it's", "my", "dream", "to", "be", "a", "YouTube", "celebrity", "and", "I", "need", "your", "help", "subscribe", "is", "that", "that's", "how", "it", "works", "right", "like", "down", "or", "up", "or", "I", "don't", "know", "like", "you", "open", "a", "box", "like", "over" ]

[ "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "better.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "it...", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "which", "is", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "making.", "Remember", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "py", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "hot", "encoding", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "transformation?", "It's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "0.", "Stop", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "on.", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "same.", "Dense", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "perceptrons", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "our", "mode.l", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "it.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "1.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "perceptrons.", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "than", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "you", "predict", "", "one.", "Remember", "", "", "", "", "", "", "", "", "", "", "", "worse.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "that.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "it.", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "dot", "", "", "float.", "If", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "py", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "enough.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "learning.", "Before", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "reLU", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "reLU", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "dot", "py", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "dropout.", "Dropout", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "" ]

[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 6, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 7, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]

[ "we", "need", "to", "talk", "about", "convolutional", "neural", "networks", "so", "far", "everything", "that", "we've", "done", "applies", "to", "any", "type", "of", "input", "multi-layer", "perceptrons", "is", "a", "generic", "algorithm", "that", "you", "can", "use", "on", "literally", "any", "kind", "of", "input", "if", "you", "can", "get", "it", "into", "an", "array", "of", "numbers", "but", "convolutional", "neural", "networks", "only", "apply", "to", "certain", "data", "sets", "and", "images", "are", "one", "of", "them", "the", "reason", "is", "when", "we", "apply", "a", "multi-layer", "perceptron", "it", "throws", "out", "a", "lot", "of", "data", "when", "my", "little", "friend", "here", "looks", "at", "something", "and", "gets", "an", "image", "the", "image", "actually", "has", "some", "structure", "to", "it", "it's", "a", "2d", "array", "and", "the", "XY", "coordinates", "we", "have", "an", "intuition", "that", "they", "do", "matter", "and", "if", "I", "took", "an", "image", "and", "I", "shifted", "every", "pixel", "to", "the", "left", "all", "the", "numbers", "change", "but", "it's", "actually", "in", "that", "image", "probably", "stays", "the", "same", "so", "we", "need", "some", "new", "mathematical", "operators", "that", "take", "advantage", "of", "that", "and", "the", "operator", "that's", "generally", "used", "is", "called", "a", "convolution", "convolutions", "have", "been", "around", "for", "a", "really", "long", "time", "even", "convolutional", "neural", "networks", "have", "been", "around", "for", "a", "long", "time", "but", "around", "2011", "or", "2012", "applying", "convolutions", "to", "object", "recognition", "inside", "images", "with", "neural", "nets", "went", "mainstream", "with", "huge", "success", "the", "task", "of", "recognizing", "what's", "in", "an", "arbitrary", "image", "went", "from", "being", "basically", "impossible", "for", "any", "machine", "learning", "algorithm", "to", "having", "better", "than", "human", "level", "accuracy", "in", "many", "cases", "using", "CNN's", "this", "kind", "of", "improvement", "for", "mere", "30", "percent", "error", "rate", "to", "better", "than", "human", "accuracy", "over", "just", "a", "few", "years", "is", "probably", "one", "of", "the", "biggest", "breakthroughs", "in", "AI", "and", "it's", "probably", "a", "big", "part", "of", "the", "reason", "you're", "actually", "watching", "this", "video", "let's", "apply", "convolutions", "to", "our", "image", "recognition", "problem", "what", "is", "a", "convolution", "now", "generally", "speaking", "there's", "one", "D", "convolutions", "and", "two", "D", "convolutions", "and", "three", "D", "convolutions", "and", "you", "might", "have", "seen", "a", "convolution", "in", "signal", "processing", "or", "in", "your", "math", "class", "involving", "somehow", "Fourier", "transforms", "but", "in", "this", "case", "what", "we", "mean", "by", "convolution", "is", "actually", "a", "2d", "discrete", "convolution", "and", "so", "you", "can", "think", "of", "that", "as", "sliding", "a", "window", "of", "weights", "across", "an", "image", "or", "more", "practically", "you", "can", "think", "of", "it", "as", "very", "low-budget", "Photoshop", "filter", "so", "assuming", "you're", "in", "the", "right", "directory", "you", "can", "find", "a", "little", "tool", "I", "wrote", "called", "con", "demo", "this", "is", "mostly", "for", "demonstration", "purposes", "I", "start", "with", "the", "kernel", "set", "to", "a", "three", "by", "three", "array", "where", "each", "value", "is", "equal", "to", "0.1", "and", "now", "what", "this", "convolution", "does", "is", "it", "scans", "across", "the", "image", "and", "it", "takes", "each", "pixel", "value", "in", "a", "3x3", "chunk", "and", "it", "multiplies", "it", "by", "0.1", "and", "then", "sums", "the", "number", "and", "then", "puts", "the", "sum", "in", "the", "first", "value", "of", "the", "output", "image", "now", "we", "step", "one", "pixel", "of", "the", "right", "and", "we", "do", "the", "same", "thing", "with", "the", "same", "weights", "and", "we", "do", "it", "over", "and", "over", "and", "over", "for", "every", "pixel", "in", "the", "image", "this", "convolution", "basically", "averages", "over", "3x3", "block", "so", "essentially", "you", "can", "think", "of", "it", "as", "a", "blur", "okay", "so", "what", "do", "you", "think", "this", "does", "if", "I", "make", "the", "middle", "of", "the", "kernel", "1", "and", "all", "the", "other", "numbers", "0", "I", "actually", "get", "the", "original", "image", "back", "and", "now", "what", "do", "you", "think", "this", "does", "if", "I", "make", "the", "middle", "of", "the", "kernel", "2", "and", "all", "the", "other", "numbers", "0", "it", "actually", "makes", "everything", "brighter", "which", "kind", "of", "makes", "sense", "because", "it", "multiplies", "each", "of", "the", "pixels", "by", "2", "exactly", "and", "now", "I", "won't", "go", "through", "this", "I'll", "leave", "this", "to", "you", "but", "you", "should", "think", "about", "what", "does", "this", "do", "if", "I", "make", "the", "middle", "of", "the", "kernel", "1", "and", "the", "number", "of", "above", "it", "negative", "1", "or", "what", "do", "you", "think", "this", "does", "if", "I", "make", "the", "middle", "of", "the", "kernel", "1", "and", "all", "the", "others", "are", "numbers", "around", "it", "negative", "0.1", "and", "if", "you", "play", "with", "this", "conv", "demo", "for", "a", "while", "you'll", "get", "a", "great", "intuition", "for", "what", "convolutions", "can", "do", "there's", "actually", "one", "more", "piece", "of", "this", "that's", "important", "which", "is", "how", "we", "do", "convolution", "on", "multiple", "images", "and", "a", "really", "important", "case", "is", "where", "this", "happens", "on", "color", "images", "so", "actually", "my", "little", "dog", "was", "originally", "a", "color", "image", "so", "the", "way", "we", "pass", "it", "into", "the", "neural", "net", "is", "we", "broke", "it", "up", "into", "red", "green", "and", "blue", "components", "so", "actually", "we", "do", "a", "3x3", "convolution", "on", "the", "red", "data", "the", "green", "data", "the", "blue", "data", "and", "then", "we", "add", "up", "all", "the", "results", "so", "sometimes", "convolutions", "take", "a", "step", "of", "more", "than", "one", "if", "each", "iteration", "moved", "by", "a", "step", "of", "two", "we", "would", "say", "that", "the", "convolution", "had", "a", "stride", "of", "two", "how", "we", "handled", "the", "edges", "also", "matters", "if", "we", "do", "a", "3x3", "convolution", "on", "an", "image", "and", "we", "don't", "go", "over", "the", "edges", "the", "output", "image", "is", "a", "little", "smaller", "than", "the", "input", "image", "this", "is", "what", "Kerris", "does", "by", "default", "so", "if", "you", "want", "to", "preserve", "the", "image", "size", "you", "have", "to", "add", "zeros", "around", "the", "input", "image", "and", "that's", "called", "zero", "padding", "now", "there's", "another", "simpler", "transformation", "also", "very", "common", "in", "neural", "networks", "called", "pooling", "if", "convolutions", "are", "a", "bad", "photoshop", "filter", "pooling", "is", "like", "a", "bad", "resizing", "algorithm", "typically", "pooling", "takes", "a", "2x2", "region", "of", "an", "image", "and", "chooses", "the", "max", "value", "in", "each", "region", "this", "is", "max", "pooling", "average", "pooling", "takes", "the", "average", "in", "each", "region", "either", "way", "this", "shrinks", "the", "image", "by", "a", "factor", "of", "two", "you", "can", "actually", "achieve", "similar", "results", "with", "strides", "but", "we", "want", "to", "shrink", "down", "the", "image", "so", "we", "can", "do", "convolutions", "at", "different", "scales", "now", "let's", "go", "to", "the", "code", "and", "put", "it", "all", "together", "so", "open", "up", "CNN", "Pi", "and", "you'll", "notice", "that", "this", "is", "very", "very", "similar", "Tori", "left", "off", "in", "the", "last", "video", "of", "a", "multi-layer", "perceptron", "but", "there's", "a", "nasty", "little", "wrinkle", "on", "lines", "19", "and", "20", "and", "that's", "because", "Kerris", "is", "2d", "convolutions", "want", "three-dimensional", "input", "because", "most", "images", "are", "actually", "two-dimensional", "but", "then", "have", "a", "third", "dimension", "for", "color", "our", "images", "happen", "to", "be", "two-dimensional", "only", "because", "they're", "grayscale", "and", "they", "don't", "have", "a", "color", "dimension", "so", "we", "need", "to", "use", "the", "handy", "reshape", "function", "that", "takes", "our", "image", "and", "adds", "an", "extra", "dimension", "of", "length", "one", "to", "fit", "Harris's", "convolution", "API", "now", "line", "29", "is", "the", "others", "line", "that", "changes", "until", "now", "we've", "actually", "flattened", "out", "all", "of", "our", "models", "for", "perceptrons", "but", "in", "this", "case", "we're", "going", "to", "do", "a", "convolution", "instead", "of", "the", "flattening", "notice", "that", "we", "still", "have", "to", "explicitly", "tell", "our", "model", "that", "the", "input", "shape", "is", "28", "by", "28", "by", "1", "we're", "actually", "doing", "30", "to", "3x3", "convolutions", "in", "parallel", "and", "we're", "going", "to", "need", "to", "learn", "the", "weights", "of", "each", "of", "those", "convolution", "parameters", "next", "we", "had", "a", "max", "pooling", "layer", "which", "shrinks", "down", "the", "network", "then", "we", "had", "a", "flatten", "layer", "because", "the", "next", "and", "Slayer", "is", "a", "perceptron", "and", "expects", "a", "one", "dimensional", "input", "let's", "try", "running", "our", "model", "but", "before", "we", "do", "it", "let's", "be", "sure", "to", "call", "model", "death", "summary", "and", "check", "out", "the", "output", "okay", "because", "we're", "in", "a", "new", "directory", "we", "need", "these", "called", "W", "and", "B", "and", "knit", "one", "more", "time", "to", "set", "this", "up", "we", "can", "use", "the", "same", "user", "name", "and", "we", "can", "optionally", "select", "a", "new", "project", "or", "use", "our", "previous", "project", "if", "you've", "been", "following", "along", "with", "previous", "videos", "now", "Python", "CNN", "PI", "actually", "trains", "the", "model", "and", "here's", "where", "a", "GPU", "would", "start", "to", "really", "speed", "things", "up", "there's", "only", "320", "parameters", "in", "our", "convolution", "layer", "but", "they", "dramatically", "affect", "the", "output", "you", "can", "see", "because", "we", "don't", "have", "pooling", "it", "actually", "shrinks", "our", "image", "input", "from", "28", "by", "28", "to", "26", "by", "26", "in", "the", "convolution", "but", "it", "actually", "makes", "32", "different", "output", "images", "so", "the", "output", "size", "of", "our", "convolution", "layer", "is", "really", "large", "the", "max", "pooling", "layer", "has", "no", "free", "parameters", "because", "it", "always", "does", "the", "same", "thing", "but", "it", "cuts", "the", "size", "of", "our", "images", "in", "half", "the", "flattened", "layer", "of", "course", "also", "has", "no", "free", "parameters", "the", "hidden", "dense", "layer", "has", "a", "ton", "of", "free", "parameters", "because", "it", "has", "a", "hundred", "and", "twenty", "eight", "outputs", "and", "five", "thousand", "four", "hundred", "and", "eight", "inputs", "our", "total", "model", "has", "nearly", "1", "million", "free", "parameters", "and", "only", "60,000", "training", "data", "points", "so", "what", "should", "we", "be", "worried", "about", "I", "hope", "you", "guessed", "overfitting", "because", "if", "you", "did", "that", "means", "you've", "been", "paying", "attention", "and", "I", "hope", "that", "you're", "thinking", "if", "I", "have", "overfitting", "I", "should", "do", "one", "thing", "and", "that", "is", "to", "add", "dropout", "now", "if", "you", "were", "my", "student", "and", "we", "were", "in", "person", "I", "would", "make", "you", "do", "that", "on", "your", "own", "to", "check", "understanding", "I", "can't", "do", "that", "on", "the", "video", "but", "I", "think", "you", "should", "try", "I'll", "show", "you", "how", "to", "add", "dropout", "to", "the", "network", "and", "there's", "more", "than", "one", "way", "to", "do", "it", "here's", "how", "I", "would", "do", "it", "typically", "you", "want", "to", "put", "dropout", "between", "layers", "that", "actually", "have", "a", "free", "parameter", "so", "in", "this", "case", "it'll", "be", "after", "the", "max", "pooling", "layer", "and", "then", "after", "the", "final", "dense", "layer", "you", "could", "also", "put", "dropout", "before", "the", "very", "first", "layer", "typical", "inputs", "to", "the", "dropout", "is", "about", "0.4", "which", "means", "that", "40%", "of", "the", "things", "coming", "into", "the", "drop", "out", "gets", "set", "to", "zero", "you", "could", "set", "this", "anywhere", "between", "20%", "and", "50%", "it", "tends", "to", "not", "matter", "that", "much", "this", "is", "gonna", "take", "a", "while", "to", "train", "so", "what", "we", "wait", "I'll", "tell", "you", "about", "one", "more", "improvement", "that", "we", "have", "we're", "actually", "at", "98%", "accuracy", "so", "but", "to", "get", "to", "99%", "accuracy", "we", "need", "to", "have", "multiple", "convolutional", "layers", "and", "the", "intuition", "for", "why", "is", "it", "a", "convolution", "only", "acts", "at", "one", "scale", "but", "if", "we", "shrink", "the", "image", "down", "and", "we", "do", "another", "convolution", "then", "we", "can", "detect", "patterns", "and", "multiple", "scales", "so", "a", "typical", "architecture", "for", "most", "object", "recognition", "tasks", "will", "actually", "have", "multiple", "convolutions", "and", "some", "kind", "of", "shrinking", "operation", "in", "between", "the", "convolutions", "max", "pooling", "is", "probably", "the", "most", "common", "but", "you'll", "see", "other", "strategies", "for", "shrinking", "the", "image", "down", "so", "this", "diagram", "actually", "lays", "out", "a", "very", "typical", "convolutional", "neural", "network", "the", "bottom", "here", "is", "the", "input", "eight", "and", "that's", "actually", "the", "digit", "8", "from", "the", "same", "data", "set", "we're", "looking", "at", "and", "then", "the", "next", "layer", "from", "the", "bottom", "is", "the", "first", "convolutional", "layer", "then", "there's", "another", "max", "pooling", "layer", "followed", "by", "another", "convolutional", "layer", "followed", "by", "another", "max", "pooling", "layer", "followed", "by", "some", "hidden", "layers", "and", "if", "you", "look", "closely", "you", "can", "see", "the", "output", "that", "the", "eighth", "neuron", "is", "lit", "up", "on", "the", "top", "I", "love", "this", "visualization", "because", "you", "can", "see", "all", "the", "crazy", "things", "the", "convolutions", "do", "now", "here's", "a", "challenge", "can", "you", "actually", "create", "this", "network", "by", "modifying", "CNN", "pi", "so", "stop", "this", "video", "and", "give", "it", "a", "try", "if", "you", "like", "I", "do", "it", "by", "adding", "two", "layers", "in", "the", "middle", "of", "this", "network", "you", "can", "actually", "tune", "the", "number", "of", "outputs", "of", "this", "layer", "and", "the", "number", "of", "nodes", "in", "the", "hidden", "layer", "experiment", "see", "if", "you", "can", "build", "interesting", "network", "architectures", "that", "get", "higher", "accuracy", "we're", "actually", "getting", "almost", "perfect", "accuracy", "on", "this", "data", "set", "at", "this", "point", "so", "it", "might", "be", "time", "to", "try", "applying", "this", "to", "something", "else", "and", "for", "your", "educational", "entertainment", "I", "have", "a", "completely", "new", "but", "very", "similar", "data", "set", "called", "fashion", "M", "NIST", "it's", "60,000", "images", "but", "instead", "of", "being", "handwritten", "numbers", "they're", "images", "of", "clothes", "and", "the", "categories", "are", "a", "t-shirt", "trouser", "pullover", "dress", "coat", "sandal", "shirts", "sneaker", "bag", "and", "ankle", "boot", "in", "fact", "if", "you", "open", "up", "fashion", "dot", "pie", "I", "have", "some", "skeleton", "code", "that", "starts", "off", "where", "this", "whole", "set", "of", "lessons", "began", "with", "a", "very", "very", "basic", "perceptron", "can", "you", "apply", "what", "you've", "learned", "to", "build", "a", "fashion", "classifier", "on", "a", "similar", "data", "set", "let", "me", "know", "how", "it", "goes", "and", "comment", "below", "okay", "so", "so", "far", "we've", "covered", "the", "basic", "introductory", "class", "into", "neural", "networks", "we've", "done", "perceptrons", "multi-layer", "perceptrons", "and", "convolutional", "neural", "networks", "this", "should", "be", "a", "basic", "understanding", "that", "lets", "you", "actually", "use", "real", "deep", "learning", "code", "in", "the", "wild", "but", "from", "here", "on", "out", "it", "gets", "super", "fun", "we", "can", "apply", "this", "to", "lots", "of", "different", "applications", "and", "I", "want", "to", "show", "you", "about", "autoencoders", "which", "are", "a", "really", "cool", "architecture", "I", "want", "to", "show", "you", "about", "transfer", "learning", "I", "want", "to", "show", "you", "about", "text", "and", "lots", "of", "other", "things", "but", "you", "should", "actually", "enjoy", "the", "knowledge", "you", "have", "right", "now", "on", "convolutional", "neural", "networks", "go", "out", "and", "build", "an", "object", "classifier", "on", "a", "new", "set", "of", "data", "I", "think", "you'll", "really", "have", "fun", "ok", "yeah", "you", "know", "just", "came", "from", "board", "meeting", "and", "they", "told", "me", "if", "I", "don't", "get", "a", "million", "subscribers", "next", "week", "they're", "gonna", "fire", "me", "so", "really", "mean", "a", "lot", "if", "you", "guys", "could", "subscribe", "and", "like", "and", "click", "on", "my", "patreon", "what", "else" ]

[ "We", "", "", "", "", "", "", "networks.", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "convolution.", "Convolutions", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Py", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Karas's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "dense", "layer", "", "", "", "", "", "", "", "", "input.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "dot", "", "", "", "", "", "", "", "", "", "Open", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Py", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "py", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "" ]

[ 1, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]

[ "hello", "everybody", "my", "name", "is", "Chris", "and", "today", "we're", "gonna", "talk", "about", "transfer", "learning", "I", "think", "transfer", "learning", "is", "really", "cool", "because", "it", "lets", "you", "take", "a", "small", "data", "set", "and", "actually", "create", "a", "really", "accurate", "model", "we're", "gonna", "do", "this", "by", "leveraging", "very", "large", "networks", "that", "were", "trained", "for", "many", "hours", "or", "even", "days", "on", "much", "larger", "data", "sets", "than", "ours", "and", "actually", "transfer", "that", "knowledge", "into", "our", "own", "network", "made", "specifically", "for", "our", "classification", "problem", "so", "today", "we're", "going", "to", "be", "working", "with", "the", "Freiburg", "Grocery", "data", "set", "which", "is", "a", "small", "data", "set", "about", "four", "thousand", "images", "of", "various", "grocery", "products", "and", "we", "want", "to", "train", "our", "classifier", "to", "tell", "us", "what", "type", "of", "grocery", "products", "those", "are", "so", "let's", "take", "a", "look", "at", "the", "data", "so", "first", "we're", "going", "to", "import", "our", "carrots", "model", "layers", "so", "we", "can", "we", "can", "build", "a", "carrots", "model", "and", "we're", "also", "importing", "ResNet", "50", "which", "is", "a", "image", "classification", "network", "actually", "out", "of", "Microsoft", "Research", "that's", "very", "large", "and", "we're", "going", "to", "be", "able", "to", "transfer", "knowledge", "from", "it", "into", "our", "own", "network", "so", "first", "we", "need", "to", "load", "our", "training", "data", "so", "here", "we're", "splitting", "our", "training", "data", "into", "a", "train", "and", "a", "test", "as", "well", "as", "extracting", "the", "class", "names", "from", "this", "utility", "library", "called", "groceries", "and", "let's", "take", "a", "look", "at", "one", "of", "those", "images", "actually", "looks", "like", "there", "you", "go", "jar", "of", "pickles", "hopefully", "we", "can", "train", "our", "machine", "to", "tell", "us", "that", "so", "let's", "look", "at", "what", "the", "other", "classes", "in", "the", "dataset", "look", "like", "we've", "got", "beans", "cake", "pasta", "and", "my", "favorite", "vinegar", "all", "right", "let's", "see", "how", "the", "data", "is", "actually", "distributed", "so", "as", "you", "can", "see", "some", "of", "the", "classes", "don't", "have", "nearly", "as", "many", "examples", "as", "others", "hopefully", "transfer", "learning", "can", "help", "to", "compensate", "for", "this", "so", "before", "we", "can", "train", "our", "model", "we", "need", "to", "convert", "our", "categories", "which", "are", "going", "to", "be", "numbers", "between", "0", "and", "25", "into", "1", "hot", "encoded", "vectors", "so", "we're", "calling", "two", "categorical", "on", "our", "labels", "and", "now", "just", "to", "see", "how", "we", "can", "perform", "on", "this", "data", "set", "with", "a", "very", "simple", "perceptron", "let's", "go", "ahead", "normalize", "our", "data", "and", "then", "just", "create", "a", "single", "layer", "perceptron", "model", "we're", "going", "to", "use", "categorical", "cross-entropy", "for", "our", "loss", "because", "this", "is", "a", "multi-class", "classification", "problem", "our", "good", "old", "friend", "the", "atom", "optimizer", "and", "we", "also", "want", "to", "view", "accuracy", "so", "we", "can", "have", "a", "better", "metric", "to", "comprehend", "what's", "going", "on", "lastly", "we're", "calling", "W", "in", "it", "so", "we", "can", "visualize", "our", "metrics", "and", "let's", "go", "ahead", "and", "train", "this", "model", "okay", "so", "looks", "like", "we", "aren't", "doing", "so", "well", "our", "validation", "accuracy", "is", "point", "zero", "four", "percent", "this", "is", "this", "is", "very", "troubling", "our", "extra", "our", "accuracy", "on", "the", "training", "data", "is", "even", "lower", "I", "mean", "I'm", "I", "look", "at", "this", "and", "I", "I", "feel", "ill", "there", "has", "to", "be", "a", "better", "way", "so", "Kerris", "makes", "it", "really", "easy", "to", "leverage", "the", "research", "community's", "progress", "in", "computer", "vision", "models", "so", "here", "we're", "going", "to", "import", "resident", "50", "and", "actually", "download", "the", "pre", "trained", "weights", "from", "training", "on", "image", "net", "which", "is", "an", "image", "data", "set", "with", "millions", "of", "images", "that", "takes", "many", "days", "to", "train", "so", "with", "this", "one", "line", "we're", "pulling", "in", "cutting-edge", "computer", "vision", "research", "let's", "go", "ahead", "and", "take", "a", "look", "at", "a", "model", "summary", "to", "see", "what", "this", "network", "looks", "like", "oh", "man", "so", "many", "layers", "resident", "50", "is", "much", "more", "complicated", "than", "our", "simple", "perceptron", "you", "can", "see", "things", "like", "batch", "normalization", "many", "different", "convolutions", "and", "then", "even", "this", "funny", "add", "layer", "so", "what", "resonate", "does", "is", "it", "actually", "branches", "off", "and", "takes", "features", "from", "earlier", "in", "the", "network", "and", "adds", "them", "back", "in", "in", "later", "layers", "and", "this", "helps", "the", "network", "train", "better", "and", "allows", "researchers", "to", "make", "an", "even", "deeper", "network", "which", "gives", "it", "more", "expressive", "ility", "and", "accuracy", "I", "can", "just", "keep", "on", "scrolling", "so", "to", "see", "what", "this", "network", "can", "actually", "do", "let's", "run", "it", "on", "a", "picture", "of", "an", "elephant", "because", "why", "not", "so", "here", "we're", "loading", "in", "our", "elephant", "we're", "changing", "its", "size", "to", "224", "pixels", "by", "224", "pixels", "because", "the", "network", "expects", "that", "size", "then", "we're", "expanding", "the", "dimensions", "because", "we", "need", "to", "include", "our", "batch", "dimension", "and", "we", "call", "this", "really", "important", "function", "pre", "process", "input", "so", "when", "they", "train", "ResNet", "the", "researchers", "used", "a", "very", "specific", "way", "pre", "processing", "the", "images", "and", "we're", "going", "to", "use", "their", "exact", "same", "logic", "to", "do", "that", "on", "our", "own", "data", "so", "that", "we", "can", "have", "high", "accuracy", "results", "coming", "out", "of", "the", "model", "lastly", "we", "just", "call", "predict", "and", "we're", "using", "this", "nice", "helper", "method", "decode", "predictions", "which", "are", "going", "to", "change", "the", "the", "various", "indices", "into", "the", "last", "layer", "and", "tell", "us", "exactly", "what", "category", "that", "it's", "predicting", "look", "at", "that", "the", "network", "output", "Tusker", "with", "49", "percent", "accuracy", "an", "indian", "elephant", "with", "thirty-four", "percent", "accuracy", "and", "there's", "a", "slight", "chance", "we're", "looking", "at", "an", "African", "elephant", "now", "I", "personally", "probably", "wouldn't", "be", "able", "to", "tell", "you", "the", "difference", "between", "these", "three", "kinds", "of", "elephants", "but", "a", "network", "this", "powerful", "is", "actually", "able", "to", "do", "it", "with", "a", "high", "degree", "of", "accuracy", "but", "we", "don't", "want", "this", "network", "to", "tell", "us", "the", "categories", "that", "it", "a", "trained", "on", "we", "want", "it", "to", "tell", "us", "our", "categories", "for", "our", "grocery", "data", "set", "so", "let's", "look", "at", "a", "way", "that", "we", "can", "actually", "do", "that", "first", "let's", "take", "our", "grocery", "data", "set", "and", "pre-process", "it", "exactly", "the", "same", "way", "that", "the", "resonant", "authors", "did", "now", "we", "can", "actually", "go", "into", "the", "resident", "model", "and", "pull", "out", "specific", "layers", "that", "we", "want", "to", "use", "in", "this", "case", "we're", "going", "to", "pull", "out", "the", "second-to-last", "lair", "which", "is", "called", "the", "average", "pool", "lair", "and", "now", "we", "can", "create", "a", "new", "model", "with", "the", "same", "input", "to", "our", "resident", "model", "but", "now", "instead", "about", "putting", "a", "thousand", "categories", "we're", "gonna", "output", "this", "last", "layer", "as", "our", "final", "category", "so", "let's", "take", "a", "look", "and", "see", "what", "this", "model", "actually", "looks", "like", "still", "a", "massive", "model", "but", "now", "instead", "of", "a", "thousand", "categories", "at", "the", "bottom", "we", "have", "a", "2048", "length", "vector", "which", "are", "going", "to", "contain", "what", "we", "hope", "to", "be", "the", "most", "important", "features", "from", "our", "data", "set", "so", "now", "we", "can", "actually", "take", "our", "pre-processed", "grocery", "data", "set", "and", "run", "it", "through", "this", "new", "model", "that", "we've", "created", "and", "actually", "extract", "the", "features", "so", "now", "we're", "going", "to", "transform", "our", "images", "into", "2048", "length", "vectors", "of", "numbers", "that", "we", "can", "use", "to", "train", "a", "new", "model", "on", "and", "we", "hope", "that", "resident", "has", "created", "features", "that", "are", "going", "to", "be", "much", "easier", "to", "learn", "from", "than", "our", "original", "image", "data", "we're", "going", "to", "do", "the", "same", "for", "our", "test", "data", "and", "then", "finally", "we", "can", "create", "a", "new", "model", "which", "is", "a", "simple", "perceptron", "again", "with", "25", "categories", "for", "our", "data", "set", "using", "the", "same", "loss", "and", "optimizer", "as", "we", "did", "earlier", "let's", "go", "ahead", "and", "fit", "it", "and", "see", "if", "we", "can", "get", "better", "accuracy", "than", "our", "first", "try", "look", "at", "that", "right", "off", "the", "bat", "we're", "getting", "into", "80%", "validation", "accuracy", "you", "might", "also", "notice", "that", "we", "have", "a", "bit", "of", "an", "over", "fitting", "problem", "but", "there", "are", "actually", "additional", "techniques", "we", "can", "use", "to", "ensure", "that", "the", "network", "generalized", "as", "well", "across", "our", "data", "set", "and", "we", "can", "fix", "this", "issue", "so", "instead", "of", "just", "extracting", "the", "features", "which", "is", "great", "because", "it", "actually", "makes", "our", "model", "train", "really", "fast", "a", "disadvantage", "is", "now", "if", "we", "actually", "deploy", "this", "model", "we're", "gonna", "have", "to", "deploy", "two", "models", "side", "by", "side", "and", "always", "put", "our", "input", "imagery", "through", "all", "of", "Brett's", "net", "and", "then", "separately", "pass", "that", "output", "into", "the", "next", "model", "caris", "makes", "it", "really", "easy", "for", "us", "to", "make", "a", "single", "model", "where", "the", "output", "of", "the", "", "model", "can", "just", "go", "directly", "into", "our", "perceptron", "so", "we", "do", "this", "here", "but", "creating", "a", "new", "model", "we", "add", "our", "resonant", "layers", "and", "our", "new", "final", "dense", "layer", "then", "we", "turn", "all", "of", "our", "layers", "to", "be", "trainable", "equals", "false", "in", "the", "ResNet", "network", "so", "when", "we're", "training", "this", "network", "we", "don't", "want", "any", "of", "the", "layers", "to", "train", "in", "ResNet", "instead", "we're", "just", "going", "to", "tune", "the", "weights", "in", "our", "final", "dense", "layer", "so", "now", "you", "can", "see", "there", "are", "23", "million", "parameters", "in", "this", "network", "but", "only", "51,000", "of", "them", "are", "trainable", "now", "if", "we", "run", "training", "you'll", "see", "that", "it", "actually", "takes", "a", "lot", "longer", "to", "train", "this", "is", "because", "every", "batch", "we're", "passing", "that", "data", "all", "the", "way", "through", "the", "rest", "net", "network", "and", "doing", "all", "of", "those", "convolutions", "and", "different", "arithmetic", "so", "it's", "taking", "much", "longer", "as", "opposed", "to", "using", "the", "cached", "output", "features", "that", "we", "had", "used", "before", "but", "the", "advantage", "of", "this", "is", "now", "you", "have", "a", "single", "model", "that", "you", "can", "use", "to", "continue", "to", "retrain", "as", "your", "data", "set", "maybe", "grows", "or", "you", "change", "different", "labels", "in", "your", "data", "set", "as", "well", "as", "it's", "much", "easier", "to", "deploy", "your", "models", "but", "you", "see", "we're", "getting", "essentially", "the", "same", "accuracy", "as", "we", "were", "getting", "by", "just", "extracting", "the", "features", "and", "then", "training", "this", "less", "layer", "alright", "so", "there's", "one", "more", "technique", "we", "can", "use", "with", "transfer", "learning", "that", "will", "actually", "give", "us", "even", "more", "accuracy", "this", "is", "known", "as", "fine-tuning", "so", "instead", "of", "just", "training", "our", "our", "layers", "that", "we", "added", "at", "the", "end", "of", "the", "network", "we", "can", "actually", "take", "a", "subset", "of", "the", "layers", "in", "the", "resonant", "network", "and", "allow", "them", "to", "Train", "as", "well", "so", "the", "reason", "behind", "this", "is", "the", "way", "these", "networks", "tend", "to", "learn", "is", "that", "the", "layers", "much", "higher", "up", "tend", "to", "extract", "much", "more", "higher", "level", "features", "things", "that", "would", "be", "shared", "common", "amongst", "all", "the", "classes", "in", "your", "dataset", "whereas", "the", "layers", "lower", "in", "the", "network", "tend", "to", "be", "much", "more", "specific", "and", "are", "looking", "at", "shapes", "different", "edges", "that", "are", "going", "to", "be", "very", "specific", "to", "your", "classes", "or", "in", "this", "case", "the", "classes", "that", "resident", "was", "trained", "on", "so", "we", "can", "actually", "take", "these", "final", "layers", "and", "fine-tune", "them", "enable", "them", "to", "change", "their", "weights", "so", "that", "they", "are", "better", "suited", "for", "our", "classes", "while", "still", "enabling", "the", "very", "generic", "layers", "at", "the", "top", "of", "the", "network", "to", "pass", "down", "the", "most", "meaningful", "information", "for", "our", "new", "classifier", "so", "to", "do", "this", "we", "actually", "set", "the", "resonate", "to", "be", "trainable", "now", "and", "we", "go", "into", "the", "network", "and", "actually", "in", "this", "case", "just", "say", "the", "final", "11", "layers", "out", "of", "the", "hundred", "or", "so", "that", "are", "in", "retina", "we're", "going", "to", "allow", "to", "Train", "whereas", "the", "the", "first", "layers", "are", "all", "not", "going", "to", "be", "trainable", "so", "one", "thing", "to", "note", "when", "you're", "fine-tuning", "is", "that", "because", "the", "weights", "have", "been", "trained", "on", "a", "very", "large", "data", "set", "and", "are", "going", "to", "be", "very", "specific", "to", "the", "the", "ResNet", "data", "set", "when", "we", "start", "to", "fine-tune", "those", "weights", "and", "move", "them", "we're", "likely", "going", "to", "want", "to", "do", "that", "much", "more", "slowly", "than", "we", "would", "in", "a", "normal", "network", "so", "this", "is", "a", "case", "where", "instead", "of", "just", "setting", "optimizer", "equal", "to", "Adam", "you", "would", "want", "to", "actually", "instantiate", "a", "new", "instance", "of", "the", "optimizer", "and", "slow", "down", "the", "learning", "rate", "so", "we", "really", "want", "to", "move", "those", "weights", "in", "the", "last", "layers", "a", "little", "by", "little", "and", "this", "can", "really", "prevent", "overfitting", "on", "our", "data", "set", "which", "can", "be", "easy", "given", "it's", "it's", "so", "small", "and", "we", "have", "so", "many", "parameters", "you", "and", "look", "at", "that", "with", "only", "a", "few", "lines", "we", "were", "able", "to", "leverage", "cutting-edge", "models", "to", "actually", "get", "72", "percent", "accuracy", "on", "our", "Freiburg", "grocery", "data", "set", "remember", "we", "started", "at", "less", "than", "1%", "accuracy", "I'd", "say", "that's", "a", "pretty", "good", "day", "at", "the", "office", "you" ]

[ "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "keras", "", "", "", "", "", "", "", "", "", "keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "adam", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "layers!", "ResNet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "ResNet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "trained", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "layer", "", "", "", "", "", "", "layer", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "last", "layer.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "accuracy.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "well.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "ResNet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "" ]

[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]

[ "all", "the", "examples", "that", "we", "think", "about", "when", "we", "talk", "about", "you", "know", "machine", "learning", "from", "like", "you", "know", "like", "hot", "dog", "not", "hot", "dog", "to", "like", "you", "know", "predicting", "the", "stock", "market", "-", "you", "know", "like", "understanding", "speech", "all", "these", "things", "that", "you", "really", "think", "about", "classifying", "things", "you've", "already", "seen", "right", "when", "we", "look", "at", "the", "M&S", "data", "set", "where", "we're", "talking", "about", "labeling", "numbers", "0", "through", "9", "but", "we're", "not", "talking", "about", "recognizing", "other", "digits", "that", "we've", "maybe", "never", "seen", "before", "right", "in", "the", "real", "world", "it's", "actually", "common", "that", "you", "want", "to", "classify", "something", "where", "you've", "literally", "never", "seen", "it", "and", "humans", "can", "do", "this", "really", "well", "right", "when", "I", "see", "a", "spatula", "for", "the", "first", "time", "I", "recognize", "it", "as", "a", "new", "object", "that", "it", "that", "that", "maybe", "I", "don't", "know", "the", "name", "for", "it", "but", "I", "recognize", "it", "that", "it's", "a", "thing", "and", "I", "can", "recognize", "if", "I", "see", "it", "again", "oh", "and", "that's", "that", "thing", "that", "I", "saw", "before", "so", "how", "do", "we", "make", "computers", "do", "this", "kind", "of", "classification", "and", "this", "is", "an", "example", "that's", "called", "sometimes", "one", "shot", "or", "zero", "shot", "or", "sometimes", "a", "few", "shot", "if", "you", "have", "a", "couple", "examples", "and", "it's", "really", "been", "a", "challenge", "for", "machine", "learning", "in", "general", "to", "make", "this", "work", "and", "one", "of", "the", "approaches", "that", "I", "think", "is", "really", "exciting", "that", "I", "want", "to", "talk", "about", "today", "there's", "a", "kind", "of", "reframing", "of", "the", "problem", "right", "so", "instead", "of", "looking", "at", "one", "object", "and", "saying", "what", "is", "this", "object", "and", "training", "on", "that", "what", "I", "want", "to", "do", "is", "train", "on", "pairs", "of", "objects", "where", "the", "question", "is", "are", "these", "two", "objects", "the", "same", "and", "now", "it's", "so", "cool", "about", "that", "is", "that", "if", "instead", "of", "building", "a", "classifier", "of", "one", "thing", "at", "a", "time", "I", "believe", "I", "of", "pairs", "of", "things", "I", "can", "actually", "look", "at", "something", "new", "and", "look", "at", "one", "example", "maybe", "a", "canonical", "example", "of", "that", "thing", "and", "say", "is", "it", "that", "thing", "right", "so", "my", "classifier", "can", "potentially", "generalize", "not", "just", "to", "classify", "the", "things", "that", "it's", "seen", "in", "the", "training", "data", "but", "maybe", "to", "classify", "anything", "that", "it", "might", "see", "out", "there", "and", "this", "technique", "is", "really", "generalizable", "I'm", "gonna", "do", "it", "on", "images", "but", "the", "same", "approach", "can", "be", "used", "on", "video", "it", "can", "be", "used", "on", "audio", "it", "can", "be", "using", "tons", "of", "tons", "of", "different", "examples", "so", "let's", "get", "to", "it", "all", "right", "so", "let's", "walk", "through", "an", "example", "of", "how", "we're", "gonna", "do", "this", "and", "I'm", "gonna", "do", "this", "on", "the", "emne", "Stata", "set", "at", "first", "just", "because", "it's", "a", "data", "set", "you're", "probably", "familiar", "with", "from", "previous", "videos", "and", "it's", "really", "fast", "to", "run", "experiments", "on", "so", "first", "you", "know", "we", "have", "the", "requisite", "lots", "of", "imports", "and", "then", "we're", "going", "to", "load", "the", "data", "and", "we're", "gonna", "load", "it", "exactly", "the", "same", "as", "we've", "done", "in", "previous", "videos", "where", "we", "load", "the", "data", "into", "the", "Train", "ex", "train", "as", "the", "images", "why", "Train", "is", "the", "labels", "on", "the", "train", "data", "X", "test", "is", "the", "imagism", "test", "data", "and", "then", "Y", "train", "is", "the", "labels", "for", "the", "test", "data", "and", "then", "we're", "going", "to", "normalize", "just", "like", "we've", "done", "in", "a", "lot", "of", "other", "videos", "where", "just", "divide", "the", "values", "by", "255", "so", "that", "our", "pixels", "are", "between", "0", "&", "1", "instead", "of", "being", "between", "0", "and", "255", "but", "now", "we're", "gonna", "do", "something", "new", "we're", "gonna", "call", "this", "function", "that", "I", "wrote", "called", "make", "pairs", "and", "what", "make", "pairs", "does", "is", "it", "takes", "in", "input", "data", "and", "labels", "and", "it", "makes", "a", "new", "kind", "of", "data", "set", "where", "the", "data", "set", "is", "actually", "pairs", "of", "images", "and", "here", "the", "label", "is", "actually", "one", "if", "the", "two", "images", "correspond", "to", "the", "same", "category", "of", "thing", "and", "0", "if", "they", "correspond", "to", "different", "categories", "of", "thing", "so", "I", "just", "wrote", "a", "little", "bit", "of", "code", "here", "that", "actually", "just", "randomly", "walks", "through", "digits", "and", "then", "picks", "other", "digits", "that", "match", "and", "then", "adds", "a", "label", "of", "is", "the", "same", "thing", "and", "then", "it", "finds", "two", "that", "don't", "match", "and", "adds", "a", "label", "of", "not", "the", "same", "thing", "so", "what", "comes", "out", "of", "this", "is", "a", "data", "set", "where", "half", "the", "images", "are", "same", "things", "and", "half", "the", "images", "are", "different", "things", "and", "so", "this", "function", "at", "the", "bottom", "creates", "a", "new", "variable", "called", "Paris", "train", "which", "is", "going", "to", "be", "the", "pairs", "of", "images", "and", "labels", "train", "which", "is", "going", "to", "be", "either", "a", "zero", "for", "not", "the", "same", "thing", "or", "one", "for", "the", "same", "thing", "so", "we", "can", "run", "this", "here", "we", "got", "to", "load", "the", "data", "first", "then", "we", "can", "run", "this", "guy", "and", "you", "know", "as", "usual", "I", "always", "recommend", "taking", "a", "little", "peek", "at", "the", "data", "so", "why", "don't", "we", "look", "at", "Paris", "train", "here", "for", "comma", "zero", "and", "it", "turns", "out", "that", "is", "a", "number", "four", "that's", "just", "an", "accident", "the", "fourth", "data", "set", "is", "a", "four", "and", "then", "if", "we", "look", "at", "Paris", "train", "four", "comma", "one", "that's", "actually", "a", "different", "looking", "for", "so", "we", "would", "expect", "then", "labels", "train", "four", "to", "be", "a", "one", "meaning", "that", "they're", "the", "same", "image", "so", "why", "don't", "we", "just", "print", "that", "out", "labels", "train", "four", "and", "yep", "they're", "the", "same", "image", "we", "could", "look", "at", "maybe", "the", "400th", "example", "of", "Paris", "train", "so", "here", "that's", "a", "one", "and", "then", "if", "we", "look", "at", "the", "adjacent", "one", "it's", "a", "another", "one", "a", "little", "bit", "different", "writing", "but", "the", "same", "the", "same", "thing", "so", "we've", "transformed", "our", "data", "and", "now", "what", "are", "we", "gonna", "do", "with", "it", "right", "so", "you", "know", "naively", "one", "thing", "we", "could", "do", "is", "actually", "just", "pass", "in", "each", "image", "into", "a", "separate", "dense", "network", "and", "then", "concatenate", "those", "and", "have", "a", "final", "dense", "layer", "to", "predict", "same", "image", "or", "a", "different", "image", "so", "that's", "what", "we're", "gonna", "do", "here", "so", "here", "our", "first", "sequential", "model", "is", "just", "a", "flattened", "and", "then", "a", "dense", "layer", "so", "this", "is", "just", "the", "perceptron", "that", "you", "might", "be", "used", "to", "but", "we're", "gonna", "use", "a", "reloj", "activation", "function", "because", "it's", "kind", "of", "an", "intermediate", "piece", "and", "then", "we're", "actually", "gonna", "have", "the", "exact", "same", "layer", "but", "a", "different", "set", "of", "weights", "and", "now", "here's", "a", "new", "layer", "you", "might", "not", "have", "seen", "before", "but", "super", "useful", "it's", "called", "concatenate", "so", "what", "that", "does", "is", "actually", "just", "takes", "two", "layers", "the", "outputs", "of", "two", "layers", "and", "puts", "them", "together", "into", "a", "single", "set", "of", "activations", "so", "no", "parameters", "it", "just", "combines", "the", "two", "and", "then", "the", "final", "layer", "I'm", "calling", "dense", "layer", "takes", "as", "inputs", "the", "things", "from", "the", "merge", "layer", "and", "then", "outputs", "a", "single", "number", "and", "hopefully", "that's", "going", "to", "be", "a", "one", "if", "the", "images", "are", "the", "same", "and", "is", "zero", "if", "the", "images", "are", "not", "the", "same", "so", "use", "a", "sigmoid", "activation", "function", "because", "it's", "kind", "of", "a", "binary", "classification", "and", "then", "we", "use", "the", "Charis", "functional", "definition", "to", "define", "this", "because", "actually", "not", "a", "sequential", "model", "right", "because", "we", "have", "two", "inputs", "and", "then", "we're", "combining", "them", "it's", "not", "just", "a", "simple", "sequential", "model", "we", "might", "be", "used", "to", "and", "so", "we", "use", "a", "more", "complicated", "way", "of", "defining", "it", "then", "we", "compile", "the", "model", "we", "use", "binary", "cross-entropy", "because", "we're", "doing", "a", "single", "binary", "classification", "and", "these", "are", "our", "standard", "atom", "optimizer", "and", "we're", "gonna", "output", "the", "accuracy", "so", "let's", "take", "a", "quick", "look", "at", "what", "this", "model", "looks", "like", "before", "we", "run", "it", "here", "you", "can", "see", "here", "that", "we", "have", "100,000", "parameters", "in", "our", "dense", "layer", "that", "corresponds", "to", "image", "1", "and", "100,000", "parameters", "that", "corresponds", "to", "our", "image", "2", "and", "then", "each", "of", "those", "fully", "connected", "layers", "they", "output", "128", "numbers", "we", "combine", "those", "into", "256", "numbers", "and", "then", "we", "have", "a", "single", "perceptron", "with", "256", "inputs", "and", "one", "single", "output", "at", "the", "bottom", "of", "our", "network", "so", "in", "total", "it's", "about", "200", "thousand", "parameters", "and", "we", "can", "call", "fit", "here", "and", "now", "again", "we'll", "call", "fit", "on", "actually", "pairs", "train", "0", "right", "so", "that's", "one", "of", "the", "input", "images", "pairs", "train", "1", "which", "is", "the", "other", "set", "of", "input", "images", "and", "then", "labels", "train", "which", "is", "again", "the", "binary", "number", "0", "if", "the", "images", "don't", "match", "and", "1", "if", "they", "do", "match", "so", "let's", "set", "that", "to", "say", "10", "epochs", "and", "let", "our", "model", "train", "so", "this", "architecture", "does", "work", "barely", "so", "you", "can", "see", "that", "in", "every", "step", "it", "actually", "is", "improving", "the", "accuracy", "but", "by", "about", "like", "0.5%", "and", "it's", "starting", "at", "a", "50", "percent", "accuracy", "so", "better", "than", "random", "which", "is", "better", "than", "a", "lot", "of", "the", "networks", "that", "I've", "made", "in", "my", "life", "and", "we're", "kind", "of", "onto", "something", "good", "but", "it", "seems", "pretty", "clear", "that", "we're", "gonna", "need", "to", "make", "this", "work", "better", "so", "we've", "done", "so", "far", "it", "doesn't", "work", "super", "well", "it's", "unclear", "actually", "how", "well", "it'll", "ever", "work", "it", "does", "work", "better", "than", "random", "but", "it's", "not", "working", "super", "well", "it's", "not", "typically", "what", "people", "do", "when", "they", "encounter", "the", "situation", "where", "they", "want", "to", "do", "one-shot", "learning", "what", "they", "really", "do", "is", "they", "share", "weights", "across", "the", "model", "right", "so", "sharing", "weights", "across", "layers", "is", "actually", "pretty", "common", "in", "more", "advanced", "architectures", "but", "we", "haven't", "done", "it", "yet", "so", "it's", "a", "good", "thing", "to", "know", "and", "it's", "actually", "really", "effective", "in", "this", "case", "it's", "one", "of", "the", "things", "we", "have", "to", "do", "to", "make", "this", "thing", "really", "work", "well", "and", "the", "intuition", "is", "that", "the", "model", "that", "we're", "running", "on", "the", "first", "input", "image", "and", "the", "model", "it", "running", "on", "the", "second", "input", "image", "really", "it", "seems", "like", "they", "should", "be", "the", "same", "model", "right", "because", "the", "images", "are", "drawn", "from", "the", "same", "set", "of", "overall", "images", "and", "so", "the", "transform", "that", "you", "want", "to", "do", "on", "one", "image", "seems", "like", "it", "shouldn't", "really", "be", "the", "transform", "that", "we", "do", "on", "the", "other", "image", "in", "order", "to", "do", "this", "in", "order", "to", "share", "weights", "across", "the", "model", "we", "have", "to", "actually", "use", "more", "of", "Harrises", "functional", "model", "definition", "and", "I", "think", "this", "gets", "a", "little", "confusing", "because", "when", "we", "define", "a", "layer", "in", "the", "in", "the", "functional", "definition", "we", "actually", "it", "sort", "of", "just", "sets", "up", "the", "specification", "for", "the", "layer", "and", "it", "doesn't", "actually", "really", "attach", "it", "to", "some", "input", "until", "we", "call", "a", "function", "on", "that", "layer", "once", "specified", "so", "then", "we", "set", "up", "a", "model", "right", "and", "so", "we", "actually", "say", "that", "the", "input", "is", "going", "to", "be", "this", "input", "and", "actually", "what", "the", "model", "does", "is", "going", "to", "be", "this", "flat", "and", "step", "in", "then", "the", "stent", "step", "but", "now", "we", "haven't", "actually", "attached", "this", "model", "to", "any", "input", "so", "what", "we're", "gonna", "do", "we're", "actually", "gonna", "attach", "it", "to", "two", "different", "inputs", "we're", "gonna", "attach", "it", "to", "input", "1", "and", "input", "2", "and", "so", "I", "call", "the", "model", "that's", "attached", "to", "input", "1", "dense", "1", "and", "the", "model", "attached", "to", "input", "2", "dense", "2", "so", "we", "have", "two", "separate", "models", "but", "they're", "attached", "two", "different", "inputs", "so", "we", "can", "actually", "take", "those", "and", "we", "can", "use", "that", "same", "concatenate", "layer", "that", "we", "used", "before", "to", "combine", "them", "and", "then", "we", "can", "add", "that", "same", "dense", "layer", "that", "we", "had", "before", "and", "that's", "gonna", "output", "a", "single", "number", "and", "we're", "going", "to", "use", "a", "sigmoid", "activation", "layer", "and", "that", "number", "is", "obviously", "going", "to", "be", "one", "if", "we", "think", "that", "these", "two", "images", "are", "corresponding", "the", "same", "number", "and", "zero", "if", "they're", "like", "two", "different", "numbers", "so", "we", "can", "pile", "the", "model", "in", "the", "same", "way", "we", "did", "before", "and", "then", "we", "can", "take", "a", "quick", "look", "at", "it", "and", "we", "can", "see", "that", "actually", "this", "model", "should", "have", "about", "half", "the", "number", "of", "parameters", "of", "the", "previous", "model", "because", "we're", "sharing", "those", "parameters", "right", "so", "whereas", "before", "we", "had", "kind", "of", "two", "layers", "each", "with", "a", "hundred", "thousand", "parameters", "now", "we", "only", "have", "one", "set", "of", "a", "hundred", "thousand", "parameters", "but", "it's", "it's", "actually", "two", "different", "layers", "are", "getting", "called", "but", "each", "of", "those", "shared", "parameters", "so", "we", "can", "run", "this", "model", "too", "and", "spoiler", "alert", "it", "works", "a", "little", "bit", "better", "than", "the", "last", "thing", "we", "did", "but", "not", "a", "lot", "better", "because", "there's", "actually", "one", "more", "fancy", "optimization", "that", "we", "need", "to", "add", "in", "and", "then", "we'll", "have", "kind", "of", "the", "typical", "setup", "of", "what's", "called", "the", "siamese", "Network", "which", "is", "actually", "an", "old", "concept", "you", "came", "you", "know", "it", "was", "talked", "about", "in", "the", "90s", "but", "I", "feel", "like", "it's", "had", "renewed", "interest", "in", "various", "forms", "as", "people", "have", "gotten", "more", "and", "more", "excited", "about", "deep", "learning", "and", "it's", "kind", "of", "one", "shot", "learning", "problem", "specifically", "so", "you", "knew", "from", "Charis", "import", "back-end", "as", "Kay", "and", "this", "kind", "of", "harkens", "back", "to", "the", "time", "when", "Karis", "had", "typically", "multiple", "backends", "these", "days", "really", "it's", "almost", "always", "tensorflow", "so", "I", "just", "sort", "of", "look", "at", "any", "tensorflow", "operation", "is", "something", "that", "I", "can", "run", "here", "and", "now", "I", "define", "a", "function", "where", "it", "takes", "in", "inputs", "which", "actually", "going", "to", "be", "tensor", "flow", "tensors", "and", "then", "I", "can", "call", "K", "dot", "and", "then", "any", "tensor", "flow", "of", "operation", "that", "I", "can", "find", "so", "here", "I'm", "using", "some", "and", "square", "and", "square", "root", "and", "maximum", "really", "all", "this", "is", "doing", "is", "it's", "basically", "looking", "at", "the", "sum", "of", "the", "squares", "of", "the", "differences", "between", "the", "two", "inputs", "right", "so", "it's", "kind", "of", "a", "simple", "they", "call", "Euclidean", "distance", "it's", "really", "just", "how", "different", "are", "the", "outputs", "of", "my", "two", "different", "networks", "that's", "what", "we're", "gonna", "do", "with", "it", "we're", "gonna", "feed", "in", "the", "outputs", "of", "each", "network", "and", "then", "we're", "going", "to", "compare", "them", "using", "the", "Euclidean", "distance", "so", "we", "define", "this", "nice", "little", "Euclidean", "distance", "function", "and", "then", "we", "add", "a", "new", "layer", "it's", "called", "a", "lambda", "layer", "which", "implies", "kind", "of", "a", "lambda", "function", "and", "we", "actually", "pass", "in", "our", "Euclidean", "distance", "function", "and", "so", "now", "we're", "actually", "building", "our", "own", "custom", "tensor", "flow", "operations", "as", "a", "layer", "and", "what", "this", "does", "is", "it", "basically", "lets", "the", "network", "instead", "of", "trying", "to", "figure", "out", "what", "it", "should", "do", "with", "the", "outputs", "of", "these", "two", "networks", "that", "we've", "defined", "it", "just", "knows", "that", "really", "what", "I", "want", "is", "the", "outputs", "of", "these", "two", "networks", "to", "be", "similar", "right", "so", "the", "more", "similar", "the", "outputs", "of", "my", "two", "networks", "are", "the", "more", "likely", "the", "model", "thinks", "that", "the", "two", "inputs", "are", "the", "same", "of", "course", "buying", "the", "same", "number", "so", "let's", "run", "this", "this", "network", "and", "we", "can", "compile", "it", "and", "look", "at", "it", "I'm", "just", "like", "we", "did", "before", "and", "we", "see", "that", "it's", "very", "similar", "to", "the", "previous", "model", "but", "we", "don't", "have", "that", "last", "big", "dense", "layer", "to", "figure", "things", "out", "and", "then", "when", "you", "run", "this", "network", "we", "actually", "see", "a", "market", "improvement", "right", "in", "the", "first", "epoch", "we're", "already", "seeing", "accuracy", "above", "70%", "so", "by", "taking", "out", "some", "of", "the", "complexity", "and", "again", "just", "pushing", "the", "complexity", "into", "the", "code", "we've", "actually", "made", "a", "much", "more", "effective", "siamese", "network", "so", "you", "know", "the", "real", "reason", "to", "do", "this", "is", "not", "the", "amnesty", "to", "set", "right", "I", "mean", "it", "seems", "unlikely", "that", "you'd", "want", "to", "generalize", "to", "some", "other", "digit", "that", "we", "haven't", "seen", "before", "but", "there", "actually", "are", "lots", "of", "cases", "where", "you'd", "want", "to", "do", "it", "in", "one", "case", "is", "in", "handwriting", "where", "you", "might", "see", "characters", "that", "you", "haven't", "seen", "before", "and", "a", "super", "cool", "data", "set", "to", "do", "this", "on", "that's", "that's", "really", "fun", "and", "a", "lot", "like", "chemists", "is", "the", "Omniglot", "data", "set", "so", "I'm", "actually", "left", "in", "a", "little", "bit", "of", "code", "to", "load", "in", "the", "AMA", "neglect", "data", "set", "which", "actually", "loads", "in", "lots", "and", "lots", "of", "different", "characters", "from", "lots", "and", "lots", "of", "different", "languages", "and", "so", "I", "think", "a", "fun", "next", "step", "to", "do", "would", "be", "to", "run", "this", "exact", "same", "architecture", "on", "the", "Omniglot", "data", "set", "and", "see", "if", "you", "can", "recognize", "characters", "and", "actually", "see", "if", "you", "can", "build", "a", "system", "that", "can", "recognize", "characters", "in", "one", "alphabet", "and", "generalize", "to", "other", "alphabets", "because", "that", "is", "really", "magical", "and", "powerful", "and", "really", "shows", "off", "why", "one-shot", "learning", "can", "be", "really", "effective", "and", "especially", "why", "Siamese", "networks", "work", "really", "well", "for", "this", "application" ]

[ "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "MNIST", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "is", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "what's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "MNIST", "Data", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Train,", "x", "", "is", "", "", "Y", "", "", "", "", "", "", "training", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "pairs", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "pairs", "", "", "four", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "pairs", "", "", "", "", "", "", "", "", "", "four", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Pairs", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "relu", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "adam", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "this", "dense", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "K", "", "", "", "", "", "", "", "", "", "", "Karas", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "sum", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "marked", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "mnist", "data", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "" ]

[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 7, 0, 7, 0, 0, 7, 0, 0, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]

["so","audio","is","a","huge","field","and","it's","actually","arguably","the","field","that","reall(...TRUNCATED)

["","","","","","","","","","","","","","","","","","","","","","","","","","","","","","","","","",(...TRUNCATED)

[0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0(...TRUNCATED)

["in","this","video","we're","going","to","introduce","two","new","things","so","one","of","the","te(...TRUNCATED)

["","","","","","","","","","","","","is","a","","","","","","","","","","","","","","","","","","",(...TRUNCATED)

[0,0,0,0,0,0,0,0,0,0,0,0,7,7,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,7,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0(...TRUNCATED)

["all","right","so","you","know","you've","got","your","model","training","and","you","want","to","m(...TRUNCATED)

["","","","","","","","","","","","","","","","","","","","","","","","","","","","","","","","","",(...TRUNCATED)

[0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0(...TRUNCATED)

["there","isn't","one","definition","of","fairness","right","uh","if","you","look","at","philosophy"(...TRUNCATED)

["There","","","","","","","","","","","","philosophy,","","","","","","","philosophy.","Or","","","(...TRUNCATED)

[1,0,0,0,0,0,0,0,0,0,0,0,2,0,0,0,0,0,0,2,1,0,0,0,0,2,1,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,7,7,0,0,0,2,1(...TRUNCATED)