Dataset Preview Go to dataset viewer
video_ids (string)default_seq (json)correction_seq (json)diff_type (json)
t37gnfQzgP4
[ "hey", "everybody", "ivan", "from", "weights", "and", "biases", "here", "in", "this", "video", "i'd", "like", "to", "show", "you", "how", "you", "can", "train", "yellow", "version", "five", "on", "google", "co-op", "using", "a", "small", "data", "set", "and", "then", "track", "and", "visualize", "your", "experiments", "using", "weights", "and", "biases", "dashboard", "so", "since", "we're", "gonna", "be", "using", "google", "call", "up", "for", "training", "that", "means", "that", "you", "can", "follow", "along", "by", "just", "clicking", "the", "link", "in", "the", "description", "and", "opening", "the", "call", "of", "notebook", "first", "let's", "clone", "and", "set", "up", "your", "lv5", "repo", "by", "clicking", "on", "the", "first", "cell", "this", "will", "get", "cloned", "the", "yellow", "v5", "repository", "from", "github", "into", "colab", "as", "well", "as", "install", "all", "the", "required", "modules", "along", "the", "way", "once", "the", "setup", "is", "complete", "you", "should", "be", "able", "to", "see", "all", "the", "yellow", "folders", "and", "files", "in", "the", "cola", "file", "view", "now", "to", "make", "sure", "that", "we", "actually", "have", "you", "know", "the", "working", "and", "functioning", "neural", "network", "here", "let's", "run", "the", "inference", "on", "one", "of", "the", "example", "images", "from", "the", "repo", "looking", "good", "so", "far", "now", "the", "example", "data", "set", "that", "we're", "gonna", "be", "using", "is", "coco", "128", "which", "is", "essentially", "a", "really", "small", "data", "set", "with", "just", "128", "first", "images", "from", "the", "original", "coco", "data", "set", "this", "will", "allow", "us", "to", "see", "how", "the", "training", "visualizations", "work", "without", "having", "to", "wait", "for", "too", "long", "you", "know", "for", "the", "model", "to", "train", "let's", "click", "this", "cell", "to", "download", "the", "coco", "128", "data", "set", "we", "can", "now", "see", "it", "appear", "in", "the", "column", "files", "view", "um", "let's", "check", "out", "a", "few", "images", "from", "there", "now", "let's", "move", "on", "to", "the", "exciting", "part", "which", "is", "training", "uh", "versions", "weights", "and", "biases", "are", "a", "part", "of", "yellow", "version", "five", "all", "we", "have", "to", "do", "is", "to", "just", "pip", "install", "wnb", "by", "clicking", "the", "cell", "to", "be", "able", "to", "then", "track", "our", "experiments", "so", "the", "next", "cell", "will", "start", "the", "training", "here", "we", "can", "specify", "the", "input", "resolution", "of", "our", "images", "number", "of", "epochs", "the", "batch", "size", "as", "well", "as", "the", "data", "set", "that", "we're", "using", "and", "last", "but", "not", "least", "we", "also", "specify", "the", "pre-trained", "yellow", "version", "5", "weights", "to", "take", "advantage", "of", "transfer", "learning", "after", "seeing", "the", "logs", "that", "we", "have", "the", "successfully", "loaded", "model", "we", "can", "sign", "into", "our", "weights", "and", "biases", "accounts", "to", "visualize", "the", "results", "if", "you", "don't", "have", "an", "account", "you", "can", "take", "a", "few", "moments", "to", "create", "one", "and", "since", "i", "you", "know", "already", "have", "an", "account", "i'll", "just", "you", "know", "authenticate", "into", "the", "weights", "and", "biases", "dashboard", "now", "the", "training", "has", "started", "if", "it's", "your", "first", "yellow", "version", "5", "run", "weights", "and", "biases", "will", "automatically", "create", "a", "private", "project", "in", "your", "account", "where", "you", "can", "find", "your", "dashboard", "click", "on", "the", "view", "project", "link", "to", "open", "it", "and", "see", "the", "data", "about", "how", "your", "model", "is", "doing", "that's", "being", "automatically", "pulled", "in", "real", "time", "when", "you", "open", "the", "project", "right", "at", "the", "top", "you'll", "see", "one", "of", "my", "favorite", "features", "around", "here", "which", "is", "the", "bounding", "box", "debugger", "let's", "enlarge", "the", "window", "and", "take", "a", "closer", "look", "at", "it", "the", "bounding", "box", "debugger", "plots", "random", "images", "from", "the", "valve", "data", "set", "with", "the", "bounding", "boxes", "and", "the", "confidence", "scores", "giving", "you", "the", "intuition", "for", "what's", "going", "on", "in", "the", "model", "during", "training", "beyond", "just", "you", "know", "the", "raw", "numbers", "and", "the", "training", "logs", "you", "can", "see", "how", "the", "model", "performed", "in", "the", "images", "at", "each", "step", "of", "the", "training", "choose", "the", "confidence", "threshold", "of", "the", "planet", "bounding", "boxes", "or", "to", "display", "or", "not", "display", "certain", "classes", "from", "your", "data", "set", "if", "you", "scroll", "a", "bit", "lower", "you'll", "see", "a", "lot", "of", "useful", "metrics", "including", "the", "average", "precision", "gpu", "usage", "training", "and", "validation", "losses", "those", "are", "", "being", "updated", "in", "real", "time", "as", "your", "model", "trains", "now", "let's", "do", "something", "interesting", "we're", "going", "to", "train", "a", "model", "for", "a", "second", "time", "but", "with", "different", "hyper", "parameters", "just", "for", "example", "i'll", "change", "the", "input", "resolution", "from", "640", "to", "416", "batch", "size", "from", "30", "to", "64", "and", "epochs", "from", "10", "to", "35", "and", "let's", "start", "our", "training", "now", "taking", "a", "look", "at", "the", "dashboard", "again", "", "you'll", "see", "in", "your", "run", "appear", "in", "the", "runs", "panel", "on", "the", "left", "and", "now", "look", "at", "this", "we", "can", "actually", "compare", "the", "performance", "of", "different", "runs", "with", "different", "configurations", "side", "to", "side", "with", "several", "runs", "selected", "the", "bounding", "box", "debugger", "now", "let's", "", "see", "how", "each", "of", "the", "models", "does", "on", "", "each", "of", "the", "images", "selected", "there", "we", "can", "specify", "which", "images", "we", "wanted", "to", "look", "at", "at", "a", "time", "as", "well", "as", "", "at", "what", "training", "step", "and", "what", "what", "are", "going", "to", "be", "the", "confidence", "thresholds", "and", "the", "classes", "that", "we", "wanted", "to", "display", "this", "is", "a", "great", "way", "to", "get", "some", "intuitive", "understanding", "for", "how", "different", "configurations", "of", "your", "models", "actually", "work", "the", "training", "charts", "now", "let", "us", "see", "the", "numbers", "for", "each", "model", "nicely", "plotted", "next", "to", "each", "other", "and", "the", "gpu", "usage", "metrics", "can", "give", "you", "some", "invaluable", "insights", "as", "to", "how", "each", "of", "the", "models", "utilizes", "the", "gpu", "so", "you", "can", "pick", "the", "right", "hardware", "for", "the", "training", "but", "there", "is", "more", "if", "we", "click", "on", "the", "run", "and", "then", "click", "on", "the", "magical", "overview", "button", "for", "the", "run", "we'll", "find", "all", "", "the", "hyper", "parameters", "used", "for", "training", "our", "model", "this", "applies", "to", "all", "of", "the", "runs", "that", "will", "have", "and", "this", "way", "you", "can", "keep", "track", "of", "the", "different", "configurations", "of", "different", "models", "while", "doing", "your", "experiments", "and", "seeing", "how", "they", "perform", "you", "can", "also", "see", "the", "charts", "for", "each", "of", "the", "runs", "all", "the", "different", "system", "metrics", "the", "logs", "during", "training", "", "and", "like", "like", "yeah", "like", "it", "also", "got", "the", "logs", "you", "know", "as", "well", "as", "a", "few", "other", "useful", "files", "stored", "there", "so", "using", "weights", "and", "biases", "to", "track", "your", "yellow", "version", "5", "runs", "and", "train", "models", "gives", "you", "some", "really", "awesome", "insights", "and", "intuitions", "for", "how", "the", "training", "is", "going", "while", "letting", "you", "effectively", "keep", "track", "of", "all", "of", "your", "experiments", "you", "can", "try", "it", "out", "yourself", "on", "google", "co-op", "you", "can", "find", "a", "link", "to", "the", "notebook", "in", "the", "description", "uh", "feel", "free", "to", "train", "some", "models", "and", "track", "some", "awesome", "experiments", "we", "hope", "you", "enjoy", "it" ]
[ "Hey", "everybody,", "Ivan", "", "Weights", "&", "Biases", "here.", "In", "", "", "I'd", "", "", "", "", "", "", "", "", "", "", "", "", "Google", "Colab", "", "", "", "", "", "", "", "", "", "", "", "", "", "Weights", "&", "Biases", "dashboard.", "So,", "", "", "", "", "", "", "", "", "", "training,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "description,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "cell.", "This", "", "git", "clone", "", "", "", "", "", "GitHub", "", "Colab,", "", "", "", "", "", "", "", "modules.", "Once,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "YOLO", "", "", "", "", "", "Colab", "", "view.", "Now,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "here,", "", "", "", "", "", "", "", "", "", "", "", "", "repo.", "Looking", "", "", "far!", "Now,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "train.", "Let's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "colab", "", "", "", "", "", "", "", "", "", "", "there.", "Now,", "", "", "", "", "", "", "part:", "", "", "training.", "First,", "since", "Weights", "&", "Biases", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "wandb", "", "", "this", "", "", "", "", "", "", "", "", "experiments.", "So,", "", "", "", "", "", "", "training.", "Here,", "", "", "", "", "", "", "", "", "images,", "", "", "epochs,", "", "", "size,", "", "", "", "", "", "", "", "", "", "", "", "", "", "least,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "learning.", "After", "", "", "", "", "", "", "", "", "", "model,", "", "", "", "", "", "Weights", "&", "Biases", "", "", "", "", "results.", "If", "", "", "", "", "account,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "I'll", "", "", "", "", "", "", "Weights", "", "Biases", "", "Now,", "", "", "", "started.", "If", "", "", "", "", "", "", "", "Weights", "&", "Biases", "", "automatically.", "", "", "", "", "", "", "", "", "", "", "", "", "dashboard.", "Click", "", "", "\"view", "project\"", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "project,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "debugger.", "Let's", "", "", "", "", "", "", "", "", "", "it.", "The", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "scores,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "logs.", "You", "", "", "", "", "", "", "on", "", "", "", "", "", "", "", "training,", "", "", "", "", "", "", "plotted", "", "boxes,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "lower,", "", "", "", "", "", "", "metrics,", "", "", "Average", "Precision,", "GPU", "usage,", "", "", "", "losses.", "Those", "", "", "", "", "", "", "", "", "", "", "trains.", "Now,", "", "", "", "interesting:", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "example,", "I'll", "", "", "", "", "", "", "", "416,", "", "", "", "", "", "64,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "a", "new", "", "", "", "", "", "", "", "", "left.", "And", "", "", "", "this:", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "selected,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "there.", "We", "", "", "", "", "", "want", "", "", "", "", "", "time,", "", "", "", "", "", "", "", "step,", "", "", "", "", "", "", "", "", "", "thresholds,", "", "", "", "", "", "want", "", "display.", "This", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "work.", "The", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "other.", "And", "", "GPU", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "GPU,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "a", "", "", "", "", "", "", "", "", "", "", "", "run,", "", "", "", "", "", "", "", "", "", "", "", "model.", "This", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "perform!", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "metrics,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "experiments.", "You", "", "", "", "", "", "", "", "", "", "", "", "the", "", "", "", "", "", "", "", "-", "", "", "", "", "", "", "", "", "", "", "experiments.", "We", "", "", "", "it!" ]
[ 1, 2, 1, 0, 1, 7, 1, 2, 1, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 7, 1, 2, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 7, 4, 0, 0, 0, 0, 0, 1, 0, 3, 0, 0, 0, 0, 0, 0, 0, 2, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 7, 0, 2, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 2, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 3, 0, 0, 0, 0, 0, 0, 2, 0, 0, 2, 7, 7, 1, 7, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 2, 3, 0, 0, 0, 0, 0, 0, 2, 3, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 2, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 1, 7, 1, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 1, 0, 1, 0, 3, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 1, 7, 1, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 2, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 7, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 2, 0, 0, 1, 3, 1, 2, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 3, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 4, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 2 ]
A1S4znIfcD8
[ "today", "we're", "gonna", "talk", "about", "the", "big", "picture", "what", "is", "machine", "learning", "what", "is", "deep", "learning", "how", "does", "it", "really", "work", "and", "where", "can", "we", "apply", "it", "and", "unlike", "some", "of", "the", "other", "videos", "that", "we're", "doing", "here", "this", "isn't", "just", "for", "engineers", "this", "is", "really", "for", "anyone", "that", "wants", "to", "get", "a", "deeper", "understanding", "about", "how", "machine", "learning", "actually", "works", "and", "there's", "tons", "of", "videos", "out", "there", "that", "talk", "about", "various", "aspects", "of", "machine", "learning", "but", "the", "gap", "that", "I", "want", "to", "fill", "in", "is", "really", "showing", "people", "where", "they", "can", "apply", "machine", "learning", "because", "it", "applies", "to", "so", "many", "things", "but", "it", "doesn't", "apply", "to", "every", "single", "thing", "on", "the", "planet", "and", "I", "think", "you", "really", "need", "to", "kind", "of", "have", "a", "sense", "of", "how", "it", "actually", "works", "behind", "the", "scenes", "because", "if", "you", "just", "think", "if", "it", "is", "magic", "it's", "really", "unclear", "where", "I", "should", "be", "thinking", "ah", "that's", "a", "machine", "learning", "problem", "and", "that's", "not", "a", "machine", "learning", "problem", "we", "have", "to", "acknowledge", "there's", "an", "incredible", "amount", "of", "hype", "around", "machine", "learning", "right", "now", "and", "one", "of", "the", "manifestations", "of", "that", "may", "be", "while", "you're", "watching", "this", "video", "is", "because", "the", "people", "that", "understand", "how", "to", "do", "machine", "learning", "are", "being", "paid", "huge", "salaries", "right", "now", "startups", "are", "being", "acquired", "left", "and", "right", "not", "for", "the", "technology", "but", "just", "for", "their", "machine", "learning", "and", "deep", "learning", "expertise", "even", "McKinsey", "thinks", "this", "is", "going", "to", "be", "a", "huge", "market", "not", "tomorrow", "but", "in", "the", "in", "the", "near", "near", "future", "so", "I", "think", "it's", "important", "to", "back", "up", "and", "ask", "ourselves", "and", "talk", "about", "what", "can", "machine", "learning", "really", "do", "right", "now", "today", "the", "best", "resource", "for", "all", "the", "applications", "is", "a", "blog", "written", "by", "Siobhan", "Zyliss", "where", "she", "covered", "this", "in", "depth", "but", "I", "want", "to", "go", "through", "a", "range", "of", "the", "applications", "that", "are", "out", "there", "so", "first", "of", "all", "the", "TSA", "now", "says", "that", "deep", "learning", "can", "find", "weapons", "on", "passengers", "better", "than", "human", "agents", "deep", "learning", "can", "count", "your", "cells", "and", "it", "can", "look", "for", "cancer", "in", "a", "biopsy", "it", "can", "find", "endangered", "animals", "and", "aerial", "photos", "it", "can", "automatically", "detect", "weeds", "on", "farms", "from", "tractors", "and", "it", "can", "help", "you", "build", "crazy", "robots", "that", "impress", "your", "friends", "so", "all", "these", "different", "examples", "come", "from", "different", "industries", "and", "involve", "incredibly", "different", "types", "of", "inputs", "and", "outputs", "so", "you", "might", "be", "really", "surprised", "to", "learn", "that", "machine", "learning", "the", "whole", "disap", "and", "actually", "has", "an", "incredibly", "restrictive", "API", "or", "data", "type", "that", "it", "needs", "for", "inputs", "and", "outputs", "and", "so", "actually", "getting", "things", "like", "audio", "and", "images", "and", "text", "into", "the", "format", "that", "machine", "learning", "takes", "and", "actually", "interpreting", "the", "very", "restrictive", "format", "that", "it", "outputs", "for", "your", "application", "is", "a", "huge", "piece", "of", "machine", "learning", "that", "no", "one", "really", "talks", "about", "and", "it's", "what", "we're", "gonna", "talk", "about", "for", "the", "rest", "of", "this", "video", "first", "let's", "get", "our", "definition", "straight", "because", "there's", "a", "lot", "of", "confusion", "so", "deep", "learning", "is", "a", "type", "of", "machine", "learning", "maybe", "the", "most", "exciting", "type", "of", "machine", "learning", "right", "now", "machine", "learning", "is", "a", "discipline", "of", "artificial", "intelligence", "probably", "the", "most", "exciting", "field", "in", "artificial", "intelligence", "right", "now", "and", "so", "all", "of", "the", "use", "cases", "that", "I", "gave", "are", "actually", "machine", "learning", "problems", "and", "what", "we", "care", "about", "today", "is", "machine", "learning", "most", "AI", "departments", "right", "now", "focus", "on", "machine", "learning", "because", "it's", "the", "part", "of", "AI", "that's", "really", "working", "I", "think", "of", "machine", "learning", "as", "statistics", "applied", "to", "AI", "so", "here's", "the", "canonical", "machine", "learning", "problem", "we", "have", "a", "picture", "of", "a", "cat", "we", "want", "to", "do", "some", "black", "magic", "and", "somehow", "classify", "our", "picture", "as", "a", "cat", "so", "how", "does", "that", "work", "so", "in", "order", "to", "answer", "that", "question", "let's", "back", "up", "a", "second", "and", "talk", "about", "the", "canonical", "statistics", "problem", "there's", "many", "data", "sets", "that", "could", "have", "used", "but", "for", "some", "reason", "I", "use", "the", "data", "set", "of", "baby", "chickens", "where", "I", "have", "their", "ages", "and", "weight", "in", "machine", "learning", "these", "examples", "would", "be", "called", "training", "data", "imagine", "we're", "a", "farmer", "and", "we", "want", "to", "predict", "from", "our", "data", "that", "we've", "collected", "if", "we", "have", "a", "baby", "chicken", "that's", "18", "days", "old", "how", "much", "would", "we", "expect", "it", "to", "weigh", "here", "we're", "gonna", "build", "a", "model", "to", "fit", "to", "our", "training", "data", "to", "answer", "that", "question", "you", "may", "not", "have", "had", "exactly", "this", "problem", "before", "but", "you", "may", "have", "done", "something", "like", "this", "you", "can", "actually", "do", "it", "in", "Excel", "and", "it's", "called", "linear", "regression", "if", "you've", "ever", "made", "a", "trendline", "through", "your", "data", "it's", "probably", "using", "linear", "regression", "we", "can", "actually", "plot", "these", "points", "and", "these", "are", "the", "ages", "and", "the", "weights", "of", "the", "chickens", "and", "this", "is", "our", "training", "data", "that", "we", "use", "to", "build", "a", "model", "this", "line", "this", "trend", "line", "this", "linear", "regression", "actually", "makes", "predictions", "for", "any", "age", "so", "we", "can", "look", "at", "eight", "ten", "days", "in", "the", "x-axis", "and", "see", "that", "the", "line", "is", "at", "170", "on", "the", "y-axis", "so", "our", "models", "predicting", "that", "a", "baby", "chicken", "will", "weigh", "a", "hundred", "and", "seventy", "grams", "when", "it's", "18", "days", "old", "now", "that's", "linear", "regression", "but", "we", "can", "do", "fancier", "things", "too", "even", "with", "this", "tiny", "data", "set", "in", "this", "case", "I", "fitted", "an", "exponential", "curve", "and", "it", "makes", "a", "slightly", "different", "regression", "you", "might", "ask", "yourself", "do", "you", "think", "this", "line", "models", "the", "data", "better", "okay", "now", "here's", "another", "valid", "regression", "I", "did", "where", "I", "fit", "a", "more", "complicated", "equation", "this", "line", "doesn't", "look", "to", "me", "like", "it", "models", "the", "data", "very", "well", "but", "it", "goes", "through", "every", "point", "we", "have", "meaning", "that", "it", "models", "the", "training", "data", "perfectly", "so", "what's", "happening", "here", "is", "something", "called", "overfitting", "I'm", "a", "complicated", "line", "went", "through", "all", "the", "points", "perfectly", "but", "it", "won't", "generalize", "as", "well", "to", "new", "points", "that", "we", "haven't", "seen", "before", "and", "as", "models", "become", "more", "complicated", "they", "tend", "to", "overfit", "we", "don't", "usually", "worry", "too", "much", "about", "overfitting", "in", "a", "statistics", "101", "class", "with", "linear", "regression", "because", "it's", "such", "a", "simple", "model", "that", "it's", "hard", "for", "it", "to", "overfit", "but", "as", "our", "equations", "get", "more", "complicated", "and", "our", "data", "gets", "more", "complicated", "overfitting", "becomes", "more", "and", "more", "of", "an", "issue", "the", "graph", "on", "the", "left", "is", "modeling", "the", "data", "in", "a", "simple", "way", "but", "it's", "probably", "missing", "some", "of", "the", "pattern", "in", "the", "data", "the", "graph", "on", "the", "right", "is", "actually", "touching", "all", "the", "dots", "meaning", "that", "it's", "perfectly", "fitting", "the", "training", "data", "but", "it's", "probably", "overfitting", "the", "training", "data", "the", "graph", "in", "the", "middle", "gets", "closer", "to", "the", "training", "data", "points", "but", "doesn't", "get", "as", "close", "to", "the", "graph", "on", "the", "right", "but", "maybe", "models", "the", "data", "better", "than", "the", "graph", "on", "the", "left", "as", "we", "collect", "more", "and", "more", "data", "in", "the", "world", "we're", "able", "to", "build", "more", "and", "more", "complicated", "models", "deep", "learning", "really", "describes", "a", "trend", "towards", "extremely", "complicated", "equations", "with", "potentially", "millions", "of", "parameters", "and", "millions", "of", "data", "points", "so", "how", "complicated", "should", "we", "make", "our", "models", "and", "how", "should", "we", "constrain", "them", "to", "keep", "them", "from", "overfitting", "that's", "what", "machine", "learning", "research", "is", "really", "all", "about", "so", "these", "single", "graphs", "might", "seem", "like", "toy", "problems", "but", "predicting", "one", "variable", "from", "one", "other", "variable", "can", "get", "really", "complicated", "on", "its", "own", "if", "you", "could", "predict", "where", "this", "graph", "of", "the", "stock", "market", "is", "going", "better", "than", "anyone", "else", "you", "can", "make", "a", "money", "so", "another", "fundamental", "question", "in", "deep", "learning", "is", "actually", "what", "are", "we", "optimizing", "these", "two", "lines", "both", "try", "to", "go", "as", "close", "as", "possible", "to", "the", "points", "in", "the", "graph", "or", "all", "the", "points", "in", "the", "training", "data", "but", "they", "actually", "of", "a", "different", "definition", "of", "close", "one", "of", "the", "lines", "here", "is", "the", "line", "with", "the", "smallest", "sum", "of", "the", "vertical", "distance", "from", "the", "line", "to", "all", "the", "points", "while", "the", "other", "is", "optimizing", "the", "smallest", "squared", "sum", "of", "the", "vertical", "distance", "it", "might", "seem", "like", "a", "small", "difference", "but", "clearly", "these", "graphs", "look", "very", "different", "if", "you", "just", "do", "a", "default", "regression", "you're", "usually", "optimizing", "the", "square", "of", "the", "distance", "which", "you", "also", "may", "know", "as", "the", "squared", "error", "can", "you", "tell", "which", "line", "is", "optimizing", "which", "metric", "if", "you", "want", "you", "could", "pause", "the", "video", "and", "think", "about", "it", "because", "I'm", "about", "to", "tell", "you", "okay", "you're", "back", "I'm", "sure", "you", "thought", "deeply", "about", "which", "is", "optimizing", "squared", "which", "is", "optimizing", "absolute", "error", "and", "you", "probably", "concluded", "that", "the", "left", "is", "optimizing", "the", "squared", "error", "and", "the", "right", "is", "optimizing", "the", "absolute", "error", "when", "you", "optimize", "the", "squared", "error", "the", "outliers", "actually", "affect", "the", "line", "a", "lot", "more", "pulling", "it", "away", "from", "the", "majority", "of", "points", "to", "me", "the", "left", "doesn't", "look", "as", "good", "of", "a", "fit", "as", "the", "graph", "on", "the", "right", "but", "actually", "if", "you", "model", "this", "in", "Excel", "or", "any", "normal", "stats", "program", "it'll", "probably", "default", "to", "the", "graph", "on", "the", "Left", "which", "actually", "might", "not", "be", "what", "you", "really", "want", "so", "which", "model", "is", "really", "better", "it", "actually", "depends", "on", "what", "you're", "doing", "and", "what's", "happening", "downstream", "from", "your", "model", "in", "all", "the", "graphs", "we've", "looked", "at", "so", "far", "we", "only", "have", "one", "input", "and", "one", "output", "but", "usually", "we", "have", "more", "than", "one", "input", "so", "here", "we", "have", "not", "just", "the", "age", "of", "the", "chicken", "we", "add", "the", "type", "of", "diet", "that", "it", "was", "exposed", "to", "encoded", "as", "a", "number", "now", "from", "those", "two", "variables", "we", "want", "to", "predict", "weight", "this", "is", "something", "we", "actually", "still", "can", "do", "in", "Excel", "we", "have", "input", "training", "data", "and", "output", "we", "can", "use", "linear", "regression", "but", "it's", "harder", "to", "visualize", "what's", "going", "on", "this", "makes", "it", "actually", "easier", "to", "overfit", "and", "we're", "getting", "closer", "to", "what's", "traditionally", "thought", "of", "as", "machine", "learning", "and", "deep", "learning", "back", "to", "our", "cat", "classification", "problem", "what", "does", "this", "have", "to", "do", "with", "what", "we've", "been", "talking", "about", "so", "far", "here's", "the", "statistics", "API", "and", "it's", "very", "strict", "we", "have", "an", "input", "that", "has", "to", "be", "a", "fixed", "list", "of", "numbers", "in", "our", "first", "example", "it", "was", "a", "single", "number", "in", "our", "multivariable", "regression", "example", "it", "was", "two", "numbers", "check", "age", "and", "check", "diet", "our", "model", "also", "outputs", "a", "fixed", "list", "of", "numbers", "so", "far", "all", "of", "our", "models", "have", "output", "only", "one", "number", "the", "way", "we", "generate", "our", "statistical", "models", "is", "by", "feeding", "in", "a", "set", "of", "examples", "in", "machine", "learning", "this", "is", "usually", "called", "training", "data", "and", "the", "examples", "always", "have", "the", "fixed", "inputs", "and", "outputs", "in", "the", "case", "of", "the", "chicks", "we", "fed", "in", "five", "lists", "of", "age", "and", "weight", "and", "built", "a", "linear", "regression", "model", "it", "turns", "out", "and", "a", "lot", "of", "people", "are", "surprised", "by", "this", "the", "machine", "learning", "API", "is", "identical", "to", "the", "statistics", "API", "we", "usually", "have", "more", "than", "one", "input", "and", "we", "often", "have", "more", "than", "one", "output", "but", "the", "inputs", "and", "outputs", "still", "have", "to", "be", "fixed", "length", "lists", "of", "numbers", "and", "behind", "the", "scenes", "we're", "still", "just", "generating", "a", "model", "from", "the", "training", "data", "just", "like", "with", "linear", "regression", "the", "model", "is", "just", "an", "equation", "but", "in", "machine", "learning", "we", "think", "of", "it", "as", "a", "very", "complicated", "equation", "we", "search", "for", "the", "best", "model", "according", "to", "some", "metric", "or", "some", "loss", "function", "but", "often", "that", "metric", "is", "just", "squared", "error", "in", "the", "same", "way", "that", "we", "use", "it", "for", "linear", "regression", "training", "is", "just", "searching", "for", "the", "best", "model", "according", "to", "some", "metric", "or", "loss", "function", "and", "often", "that", "loss", "function", "is", "just", "squared", "error", "the", "same", "as", "we", "normally", "use", "for", "linear", "regression", "so", "what", "are", "some", "of", "the", "machine", "learning", "techniques", "besides", "linear", "regression", "and", "why", "would", "we", "pick", "one", "over", "the", "other", "it", "actually", "depends", "a", "lot", "on", "what", "kind", "of", "overfitting", "we're", "worried", "about", "how", "much", "training", "data", "we", "have", "and", "how", "many", "input", "and", "output", "variables", "there", "are", "a", "very", "popular", "and", "useful", "Python", "library", "called", "scikit-learn", "that", "you", "may", "have", "used", "actually", "built", "a", "fantastic", "flow", "chart", "that", "summarizes", "five", "years", "of", "grad", "school", "and", "helps", "you", "pick", "the", "best", "possible", "model", "based", "on", "these", "aspects", "of", "your", "training", "data", "another", "way", "to", "think", "about", "model", "to", "use", "is", "to", "look", "at", "what", "other", "people", "are", "doing", "kaggle", "a", "super", "cool", "data", "science", "platform", "had", "a", "survey", "of", "all", "its", "machine", "learning", "practitioners", "and", "asked", "them", "which", "techniques", "they", "use", "in", "their", "day-to-day", "jobs", "you've", "probably", "heard", "lately", "that", "neural", "networks", "are", "becoming", "popular", "but", "good", "old", "logistic", "regression", "which", "is", "just", "a", "modification", "of", "the", "linear", "regression", "we", "were", "talking", "about", "earlier", "it's", "still", "really", "the", "most", "commonly", "used", "technique", "another", "popular", "machine", "learning", "technique", "you", "may", "have", "heard", "of", "is", "called", "decision", "trees", "one", "thing", "I", "like", "about", "this", "algorithm", "is", "it's", "really", "easy", "to", "explain", "what", "it", "does", "is", "it", "picks", "one", "of", "the", "input", "variables", "and", "it", "chooses", "a", "threshold", "to", "say", "if", "the", "variables", "above", "the", "threshold", "go", "left", "and", "if", "the", "variables", "below", "the", "threshold", "go", "right", "and", "then", "at", "the", "leaves", "of", "this", "tree", "it", "predicts", "a", "specific", "number", "for", "the", "output", "a", "popular", "and", "useful", "variant", "of", "the", "decision", "tree", "algorithm", "is", "called", "decision", "forests", "or", "random", "forests", "when", "we", "use", "decision", "forests", "we", "actually", "build", "up", "hundreds", "or", "thousands", "or", "tens", "of", "thousands", "of", "decision", "trees", "we", "like", "each", "of", "those", "trees", "make", "a", "prediction", "and", "then", "we", "aggregate", "the", "predictions", "in", "some", "way", "neural", "networks", "are", "another", "type", "of", "model", "that", "recently", "has", "become", "very", "popular", "and", "has", "had", "a", "lot", "of", "breakthroughs", "so", "we're", "gonna", "go", "really", "deep", "on", "it", "in", "this", "video", "series", "and", "when", "we", "talk", "about", "deep", "learning", "we're", "usually", "talking", "about", "neural", "networks", "but", "one", "thing", "I", "really", "want", "to", "demystify", "here", "is", "despite", "the", "evocative", "name", "neural", "networks", "they're", "really", "just", "an", "equation", "like", "anything", "else", "and", "the", "inputs", "and", "the", "outputs", "are", "just", "like", "all", "these", "other", "machine", "learning", "techniques", "and", "statistical", "techniques", "that", "we've", "been", "talking", "about", "ok", "so", "how", "do", "we", "get", "this", "cat", "problem", "into", "this", "machine", "learning", "API", "that", "we", "keep", "talking", "about", "this", "picture", "of", "a", "cat", "is", "not", "a", "fixed", "array", "of", "numbers", "and", "the", "output", "is", "definitely", "not", "a", "fixed", "array", "of", "numbers", "so", "first", "we", "have", "to", "turn", "the", "cat", "image", "into", "a", "fix", "like", "the", "numbers", "and", "we", "can", "do", "this", "by", "taking", "the", "red", "green", "and", "blue", "values", "from", "each", "pixel", "and", "putting", "them", "into", "a", "long", "list", "then", "we", "have", "to", "make", "our", "network", "output", "something", "we", "can", "interpret", "as", "a", "label", "light", "cat", "one", "way", "to", "do", "this", "is", "to", "set", "up", "our", "network", "to", "output", "a", "number", "for", "any", "particular", "type", "of", "image", "we", "might", "see", "here", "we", "have", "a", "network", "that's", "outputting", "four", "numbers", "a", "cat", "score", "a", "fish", "score", "a", "dog", "score", "and", "an", "other", "score", "and", "we're", "gonna", "interpret", "one", "in", "the", "cat", "score", "to", "me", "that", "the", "image", "is", "a", "cat", "now", "we", "have", "a", "machine", "learning", "problem", "in", "the", "machine", "learning", "API", "so", "now", "behind", "the", "scenes", "we", "can", "build", "a", "neural", "network", "we", "can", "build", "linear", "regression", "or", "we", "can", "build", "a", "decision", "tree", "or", "anything", "else", "we", "might", "want", "to", "solve", "this", "machine", "learning", "problem", "actually", "though", "there's", "one", "more", "important", "step", "which", "is", "that", "we", "need", "to", "find", "more", "images", "of", "cats", "this", "is", "called", "training", "data", "collection", "and", "it's", "often", "the", "most", "important", "and", "usually", "overlooked", "step", "these", "models", "are", "just", "mathematical", "equations", "they", "have", "no", "common", "sense", "built", "into", "them", "all", "they", "can", "do", "is", "find", "patterns", "in", "the", "numbers", "so", "for", "example", "if", "all", "the", "cats", "in", "our", "training", "data", "look", "the", "same", "no", "machine", "learning", "model", "will", "be", "able", "to", "figure", "out", "what", "a", "cat", "actually", "is", "we", "also", "need", "to", "find", "examples", "of", "anything", "else", "that", "we", "want", "to", "classify", "it", "training", "that", "it", "is", "actually", "so", "important", "to", "machine", "learning", "and", "so", "important", "to", "me", "personally", "that", "over", "a", "decade", "ago", "I", "started", "a", "company", "called", "figure", "8", "that", "helps", "companies", "collect", "training", "data", "if", "you", "need", "more", "training", "data", "and", "if", "you're", "doing", "machine", "learning", "you", "probably", "need", "more", "training", "data", "you", "actually", "could", "check", "out", "figure", "it", "and", "use", "it", "or", "you", "could", "try", "one", "of", "its", "vastly", "inferior", "competitors", "it", "might", "seem", "trivial", "to", "turn", "images", "into", "a", "fixed", "array", "of", "numbers", "from", "just", "using", "the", "bitmap", "values", "but", "what", "about", "something", "like", "speech", "what", "if", "we", "want", "to", "build", "a", "mini", "Alexa", "that", "classifies", "sounds", "it's", "a", "hello", "or", "goodbye", "feel", "free", "to", "pause", "the", "video", "and", "ponder", "how", "we", "would", "do", "this", "it", "turns", "out", "there's", "no", "real", "consensus", "on", "the", "best", "way", "to", "turn", "audio", "into", "numbers", "but", "one", "trendy", "way", "to", "do", "this", "now", "is", "to", "just", "use", "the", "waveform", "of", "the", "sound", "as", "a", "list", "of", "numbers", "now", "there's", "one", "problem", "with", "this", "which", "is", "that", "all", "the", "sounds", "will", "be", "different", "lengths", "and", "actually", "all", "the", "arrays", "in", "our", "data", "have", "to", "be", "the", "same", "length", "but", "one", "simple", "obvious", "way", "to", "deal", "with", "this", "is", "truncate", "the", "sounds", "to", "a", "fixed", "length", "of", "time", "or", "assume", "that", "the", "sounds", "are", "completely", "quiet", "once", "the", "utterance", "is", "complete", "there", "are", "actually", "several", "other", "common", "ways", "to", "do", "this", "transformation", "and", "it", "turns", "out", "that", "the", "transform", "a", "in", "itself", "from", "the", "data", "into", "this", "very", "constrained", "API", "of", "machine", "learning", "is", "often", "the", "most", "critical", "choice", "in", "building", "a", "machine", "learning", "model", "what", "if", "we", "don't", "have", "audio", "or", "video", "what", "if", "we", "have", "text", "oftentimes", "companies", "want", "to", "classify", "it", "tweets", "about", "them", "as", "being", "positive", "or", "negative", "about", "their", "brand", "I", "actually", "have", "a", "video", "later", "on", "that", "that", "goes", "into", "detail", "about", "exactly", "how", "to", "do", "this", "in", "build", "models", "but", "for", "now", "let's", "just", "think", "about", "how", "we", "transform", "that", "text", "into", "numbers", "again", "amazingly", "there's", "no", "real", "consensus", "on", "how", "to", "do", "this", "transformation", "one", "very", "common", "approach", "is", "actually", "to", "make", "a", "list", "of", "all", "the", "words", "in", "the", "English", "language", "or", "whatever", "languages", "your", "text", "is", "in", "and", "count", "the", "number", "of", "times", "each", "word", "occurs", "into", "your", "document", "you", "end", "up", "with", "a", "list", "of", "lots", "of", "zeros", "but", "actually", "fits", "our", "criteria", "it's", "always", "the", "same", "length", "and", "it's", "always", "full", "of", "numbers", "here's", "a", "harder", "one", "this", "is", "common", "in", "self-driving", "cars", "we", "want", "to", "look", "at", "every", "single", "picture", "an", "image", "and", "classify", "what", "objects", "each", "pixel", "corresponds", "to", "so", "for", "example", "you", "can't", "just", "say", "there's", "a", "road", "in", "the", "image", "we", "have", "to", "say", "which", "parts", "the", "image", "are", "the", "road", "and", "which", "parts", "of", "the", "image", "are", "a", "sidewalk", "so", "here's", "an", "example", "image", "and", "here's", "actually", "an", "example", "output", "how", "does", "this", "work", "once", "again", "there's", "more", "than", "one", "way", "to", "do", "it", "and", "this", "video", "will", "probably", "be", "soon", "out-of-date", "but", "the", "most", "common", "way", "to", "do", "it", "right", "now", "is", "to", "literally", "treat", "the", "input", "of", "numbers", "and", "the", "output", "of", "numbers", "as", "arrays", "of", "the", "same", "length", "so", "in", "this", "case", "the", "output", "numbers", "are", "actually", "labels", "of", "what's", "given", "in", "each", "pixel", "here's", "an", "even", "trickier", "one", "bounding", "boxes", "we", "want", "to", "put", "boxes", "around", "the", "things", "in", "the", "image", "that", "we", "care", "about", "there", "could", "be", "any", "number", "of", "things", "that", "we", "care", "about", "but", "remember", "our", "output", "has", "to", "be", "a", "fixed", "length", "one", "way", "to", "do", "it", "and", "there", "are", "actually", "other", "good", "ways", "to", "do", "it", "but", "one", "way", "is", "to", "generate", "a", "candidate", "list", "of", "possible", "boxes", "and", "then", "run", "a", "classifier", "that", "looks", "at", "the", "pixels", "in", "an", "image", "and", "the", "candidate", "box", "itself", "and", "classifies", "not", "only", "what's", "in", "the", "box", "but", "whether", "or", "not", "that", "box", "is", "a", "good", "image", "that", "should", "be", "considered", "a", "bounding", "box", "a", "downside", "of", "this", "method", "is", "that", "you", "have", "to", "consider", "potentially", "thousands", "or", "millions", "of", "classifications", "per", "image", "you", "may", "need", "to", "look", "at", "that", "last", "part", "a", "few", "times", "to", "really", "get", "it", "I", "know", "that", "I", "had", "to", "but", "the", "key", "takeaway", "here", "is", "that", "framing", "the", "machine", "learning", "problem", "really", "really", "matters", "for", "example", "with", "object", "recognition", "the", "way", "we", "frame", "the", "problem", "earlier", "you", "have", "no", "chance", "of", "seeing", "an", "object", "or", "recognizing", "an", "object", "that", "you've", "never", "seen", "in", "your", "training", "data", "so", "how", "would", "you", "ever", "recognize", "an", "object", "that", "you", "haven't", "seen", "before", "people", "can", "do", "this", "one", "way", "to", "possibly", "recognize", "an", "object", "that", "you", "haven't", "had", "in", "your", "training", "data", "is", "to", "actually", "frame", "the", "problem", "instead", "of", "recognizing", "a", "single", "object", "as", "recognizing", "if", "two", "objects", "are", "the", "same", "so", "now", "our", "input", "is", "actually", "two", "objects", "and", "the", "classification", "task", "is", "are", "these", "two", "objects", "the", "same", "thing", "are", "not", "the", "same", "thing", "this", "is", "called", "a", "pairwise", "classifier", "and", "this", "actually", "sometimes", "can", "classify", "objects", "that's", "never", "seen", "before", "like", "the", "eggbeater", "in", "this", "diagram", "voice", "recognition", "identifying", "endangered", "animals", "and", "aerial", "photography", "building", "crazy", "face", "recognizing", "drones", "what", "are", "these", "applications", "all", "have", "in", "common", "why", "do", "we", "think", "of", "them", "as", "machine", "learning", "applications", "it's", "because", "we're", "able", "to", "fit", "them", "into", "this", "very", "constrained", "specific", "API", "that's", "common", "to", "all", "machine", "learning", "and", "deep", "learning", "problems", "and", "so", "if", "you're", "thinking", "okay", "is", "my", "problem", "suitable", "for", "machine", "learning", "or", "deep", "learning", "what", "you", "should", "be", "asking", "yourself", "is", "can", "I", "turn", "it", "into", "this", "kind", "of", "problem", "where", "I", "have", "a", "fixed", "length", "of", "numbers", "as", "input", "and", "if", "fixed", "like", "the", "numbers", "is", "output", "and", "can", "I", "collect", "training", "data", "or", "examples", "to", "show", "my", "model", "to", "build", "my", "machine", "learning", "system", "if", "the", "answer", "to", "those", "questions", "are", "yes", "then", "you", "really", "do", "have", "a", "machine", "learning", "problem", "and", "hopefully", "that's", "got", "you", "excited", "enough", "about", "all", "the", "applications", "of", "machine", "learning", "that", "you", "want", "to", "watch", "further", "videos", "that", "explain", "actually", "how", "to", "build", "these", "models", "and", "how", "to", "deploy", "these", "models", "and", "we're", "gonna", "keep", "creating", "these", "videos", "so", "you", "should", "probably", "subscribe", "so", "that", "you're", "the", "first", "to", "know", "when", "a", "new", "video", "comes" ]
[ "Today", "", "", "", "", "", "", "picture.", "What", "", "", "learning?", "What", "", "", "learning?", "How", "", "", "", "work?", "And", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "here,", "This", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "learning,", "", "", "", "", "", "", "", "", "", "", "Really", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Scenes", "", "", "", "", "", "", "", "", "magic,", "", "", "", "", "", "", "", "", "Ah,", "", "", "", "", "problem.", "And", "", "", "", "", "", "problem.", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "why", "", "", "", "", "", "", "The", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Startups", "", "", "", "", "", "", "", "", "", "technology,", "", "", "", "", "", "", "", "", "", "", "Even", "", "", "", "", "", "", "", "", "", "", "", "tomorrow,", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "The", "", "", "", "", "", "", "", "", "", "", "", "Shivon", "Zilis", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "all,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Deep", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "It", "", "", "", "", "", "", "photos.", "It", "", "", "", "", "", "", "", "", "", "It", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "Come", "", "", "", "", "", "", "", "", "", "", "", "outputs.", "So", "", "", "", "", "", "", "", "", "Machine", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Text", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "This", "", "first.", "Let's", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "learning.", "Maybe", "", "", "", "", "", "", "", "", "", "Machine", "", "", "", "", "", "", "", "Probably", "", "", "", "", "", "", "", "", "", "And", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Most", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "problem.", "We", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "cat.", "So,", "", "", "", "work?", "So", "", "", "", "", "", "question,", "", "", "", "", "", "", "", "", "", "", "", "", "There's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Where", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Imagine", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "That's", "", "", "old.", "How", "", "", "", "", "", "", "weigh?", "Here,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "You", "", "", "", "", "", "", "", "", "", "", "", "If", "", "", "", "", "", "", "", "data,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "This", "", "", "", "", "", "", "", "", "", "", "", "This", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "That's", "", "regression,", "", "", "", "", "", "", "too.", "Even", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "You", "", "", "yourself.", "Do", "", "", "", "", "", "", "", "better?", "Okay,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "This", "", "", "", "", "", "", "", "", "", "", "", "well,", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "As", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Because", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "The", "", "", "", "", "", "", "", "", "", "", "", "way,", "", "", "", "", "", "", "", "", "", "", "", "The", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "We're", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Extremely", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "overfitting?", "That's", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "If", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "optimizing?", "These", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Or", "", "", "", "", "", "", "data,", "", "", "", "", "", "", "", "", "", "One", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "From", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "It", "", "", "", "", "", "difference.", "But", "", "", "", "", "", "", "If", "", "", "", "", "", "regression,", "", "", "", "", "", "", "", "distance,", "", "", "", "", "", "", "", "", "", "Can", "", "", "", "", "", "", "", "", "if?", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Okay,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "error,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Me", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "It'll", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "better?", "It", "", "", "", "", "", "", "And", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "far.", "We", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Now", "", "", "", "", "", "", "", "", "weight.", "This", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "regression,", "", "", "", "", "", "", "", "", "This", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Back", "", "", "cat.", "Classification", "", "What", "", "", "", "", "", "", "", "", "", "", "", "", "far?", "Here's", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "It", "", "", "", "", "", "", "", "", "example.", "It", "", "", "", "", "", "", "", "", "Our", "", "", "", "", "", "", "", "", "", "far.", "All", "", "", "", "", "", "", "", "", "The", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Outputs", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "It", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "We're", "", "", "", "", "", "", "", "", "", "Just", "", "", "", "regression.", "The", "", "", "", "", "equation,", "", "", "", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Training", "", "", "", "", "", "", "", "", "", "", "Metric", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "other?", "It", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Five", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Another", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "kaggle,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Techniques", "", "", "", "", "", "", "You've", "", "", "", "", "", "", "", "", "popular,", "", "", "", "", "regression,", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "It's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "One", "", "", "", "", "", "", "", "", "", "", "", "", "What", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Popular", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "When", "", "", "", "forests,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Neural", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "learning,", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "They're", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Machine", "", "", "", "", "", "", "", "", "", "", "Ok.", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Not", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Then", "", "", "", "", "", "", "Output", "", "", "", "", "", "", "", "", "", "One", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "here,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Interpret", "", "", "", "", "", "", "", "", "", "", "", "", "", "Now", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "else.", "We", "", "", "", "", "", "", "", "", "Actually,", "though,", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "This", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "These", "", "", "", "", "equations.", "They", "", "", "", "", "", "", "", "All", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "Look", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Training", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "And", "", "", "", "", "", "", "", "", "", "", "", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "It", "", "", "", "To", "", "", "", "", "", "", "", "", "", "", "", "", "", "values,", "", "", "", "", "", "speech?", "What", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Feel", "", "", "", "", "", "", "", "", "", "", "", "", "It", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "To", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Or", "", "", "", "", "", "", "quiet.", "Once", "", "", "", "", "There", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "From", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "What", "", "", "", "", "", "", "", "", "", "", "", "text?", "Oftentimes", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "models,", "", "For", "now,", "", "", "", "", "", "", "", "", "", "", "", "Again", "", "", "", "", "", "", "", "", "", "", "", "One", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "And", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "But", "", "", "", "", "It's", "", "", "", "length,", "", "", "", "", "", "", "Here's", "", "", "", "This", "", "", "", "", "cars.", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So,", "", "example,", "", "", "", "", "", "", "", "", "", "", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "output.", "How", "", "", "work?", "Once", "", "There's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "out-of-date,", "", "", "", "", "", "", "", "", "Right", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "case,", "", "", "", "", "", "", "", "", "", "", "", "", "Here's", "", "", "", "", "Bounding", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "There", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "One", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Classifier", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Not", "", "", "", "", "box,", "", "", "", "", "", "", "", "", "", "image.", "That", "", "", "", "", "", "", "A", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "it.", "", "", "", "", "", "", "But", "", "", "", "", "", "", "", "", "", "", "", "", "", "matters?", "For", "", "", "", "", "", "", "", "", "", "", "", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "this?", "One", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Recognizing", "", "", "", "", "", "", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "This", "", "", "", "", "", "And", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Building", "", "", "", "drones.", "What", "", "", "", "", "", "", "common?", "Why", "", "", "", "", "", "", "", "", "applications?", "It's", "", "", "", "", "", "", "", "", "", "", "Specific", "", "", "", "", "", "", "", "", "", "", "", "And", "", "", "", "", "", "", "", "", "Suitable", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "this?", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Can", "", "", "", "", "or?", "Examples", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Hopefully", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Should", "", "", "So", "", "", "", "", "", "", "", "", "", "", "" ]
[ 1, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 2, 1, 0, 0, 2, 1, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 3, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 3, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 2, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 2, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 2, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 2, 1, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 2, 1, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 3, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 3, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 1, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 1, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 1, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 3, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 2, 1, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
GVKDa5hxUZE
[ "so", "in", "the", "last", "video", "we", "built", "the", "classifier", "that", "could", "predict", "whether", "or", "not", "a", "handwritten", "digit", "was", "a", "5", "or", "not", "and", "in", "this", "video", "we're", "gonna", "take", "those", "techniques", "and", "generalize", "them", "so", "that", "we", "have", "a", "neural", "network", "that", "can", "predict", "exactly", "what", "digit", "we're", "dealing", "with", "not", "just", "a", "5", "but", "a", "4", "3", "and", "so", "on", "and", "along", "the", "way", "we're", "gonna", "learn", "a", "bunch", "of", "new", "techniques", "that", "are", "generalizable", "to", "making", "all", "neural", "networks", "work", "better", "the", "perceptron", "algorithm", "if", "you", "think", "about", "it", "it's", "very", "very", "constrained", "it", "can", "only", "output", "a", "single", "number", "so", "how", "do", "we", "take", "the", "output", "of", "a", "single", "number", "and", "turn", "that", "into", "a", "prediction", "for", "each", "possible", "digit", "you", "might", "if", "you", "feel", "up", "for", "it", "stop", "the", "video", "now", "and", "think", "about", "it", "welcome", "back", "I'm", "gonna", "tell", "you", "how", "to", "do", "it", "one", "way", "you", "might", "have", "thought", "of", "it", "just", "not", "how", "we're", "going", "to", "do", "it", "is", "just", "have", "the", "number", "be", "between", "0", "and", "10", "instead", "of", "0", "and", "1", "and", "basically", "rounded", "it", "down", "and", "say", "okay", "if", "it", "output", "8.5", "then", "that's", "an", "8", "if", "it", "outputs", "7.2", "then", "we", "pricked", "it", "adjust", "to", "7", "and", "for", "a", "number", "of", "reasons", "that's", "not", "the", "normal", "way", "to", "do", "it", "so", "we're", "gonna", "actually", "do", "it", "a", "different", "way", "which", "is", "we're", "going", "to", "have", "10", "perceptrons", "that", "run", "in", "parallel", "and", "we're", "basically", "going", "to", "say", "whichever", "perceptron", "outputs", "the", "highest", "number", "that's", "going", "to", "be", "the", "digit", "that", "we", "predict", "so", "we", "basically", "of", "a", "perceptron", "responsible", "for", "classifying", "zeros", "and", "then", "another", "one", "responsible", "for", "classifying", "ones", "and", "so", "on", "and", "which", "every", "one", "is", "the", "highest", "output", "that", "is", "the", "prediction", "that", "our", "whole", "classifier", "is", "making", "remember", "Rosenblatt", "the", "perceptron", "inventor", "from", "the", "last", "video", "this", "is", "actually", "the", "same", "as", "what", "he", "did", "so", "he", "would", "set", "up", "multiple", "light", "bulbs", "corresponding", "to", "each", "class", "and", "whichever", "light", "bulb", "lit", "up", "the", "brightest", "was", "considered", "to", "be", "the", "class", "of", "the", "image", "in", "our", "case", "we're", "gonna", "have", "10", "perceptrons", "corresponding", "to", "each", "digit", "and", "like", "I", "said", "what", "we'd", "like", "our", "classifier", "to", "do", "is", "output", "a", "1", "or", "number", "really", "close", "to", "1", "for", "the", "digit", "that", "was", "actually", "written", "in", "the", "image", "and", "a", "0", "for", "all", "the", "other", "digits", "and", "what", "we're", "specifically", "gonna", "optimize", "for", "is", "our", "output", "being", "close", "to", "the", "target", "in", "other", "words", "our", "loss", "function", "will", "be", "the", "difference", "between", "each", "of", "these", "digits", "and", "each", "of", "these", "outputs", "that", "we", "want", "so", "here's", "a", "quick", "question", "to", "kind", "of", "test", "your", "understanding", "how", "many", "weights", "does", "our", "algorithm", "have", "now", "you", "can", "stop", "and", "think", "about", "this", "one", "too", "I'll", "get", "back", "to", "in", "a", "minute", "okay", "let's", "go", "to", "the", "code", "so", "you", "should", "be", "back", "in", "the", "video", "intro", "directory", "and", "you", "should", "have", "checked", "out", "my", "code", "go", "back", "to", "the", "previous", "video", "if", "you", "haven't", "open", "up", "perceptron", "-", "linear", "dot", "pi", "now", "up", "to", "120", "everything", "is", "exactly", "the", "same", "as", "in", "our", "last", "tutorial", "in", "fact", "it's", "a", "little", "simpler", "because", "we", "can", "just", "use", "Y", "underscore", "test", "as", "our", "output", "instead", "of", "trying", "to", "make", "a", "new", "variable", "that", "says", "if", "it's", "a", "5", "or", "not", "now", "in", "lines", "20", "and", "21", "we", "need", "to", "do", "something", "called", "one-hot", "in", "coding", "our", "output", "one", "Hunton", "coding", "is", "super", "common", "in", "machine", "learning", "and", "especially", "in", "neural", "networks", "you", "basically", "transform", "your", "data", "which", "is", "a", "number", "into", "a", "list", "of", "ones", "and", "zeros", "we", "take", "the", "list", "on", "the", "left", "and", "we", "turn", "it", "into", "the", "table", "on", "the", "right", "so", "a3", "becomes", "zero", "zero", "zero", "one", "zero", "zero", "zero", "zero", "zero", "zero", "now", "why", "do", "we", "do", "it", "it's", "because", "we", "need", "to", "be", "explicit", "about", "what", "we", "want", "our", "network", "to", "output", "our", "network", "is", "going", "to", "output", "a", "list", "of", "ten", "numbers", "one", "from", "each", "perceptron", "and", "if", "our", "label", "is", "a", "three", "what", "we", "really", "wanted", "to", "do", "is", "outputting", "out", "a", "three", "but", "zero", "zero", "zero", "one", "zero", "zero", "zero", "zero", "zero", "okay", "so", "lines", "20", "and", "21", "change", "Y", "underscore", "train", "and", "Y", "underscore", "test", "into", "one", "hot", "encoded", "variables", "what", "is", "the", "dimension", "of", "Y", "underscore", "train", "before", "this", "transformation", "it's", "a", "list", "of", "60,000", "numbers", "what", "is", "the", "dimension", "of", "whiner", "square", "training", "after", "this", "transformation", "it's", "a", "matrix", "with", "60,000", "rows", "and", "10", "columns", "where", "every", "entry", "is", "either", "a", "1", "or", "a", "0", "stop", "the", "video", "and", "rewind", "if", "you", "need", "to", "think", "about", "this", "or", "you", "go", "into", "the", "code", "and", "print", "out", "the", "variables", "and", "look", "at", "them", "but", "we'll", "go", "on", "we", "set", "num", "underscore", "classes", "from", "the", "shape", "of", "y", "underscore", "training", "in", "this", "case", "no", "meter", "square", "classes", "is", "ten", "of", "corresponding", "to", "ten", "digits", "that", "we", "want", "to", "predict", "now", "our", "model", "looks", "really", "similar", "to", "the", "model", "we", "saw", "in", "the", "last", "video", "sequential", "is", "the", "same", "flatten", "is", "the", "same", "dense", "now", "takes", "an", "input", "num", "class", "in", "the", "set", "of", "1", "this", "means", "that", "we're", "training", "ten", "Tron's", "and", "her", "output", "will", "be", "a", "list", "of", "size", "10", "instead", "of", "one", "like", "it", "was", "before", "everything", "else", "is", "the", "same", "for", "now", "and", "we", "can", "run", "her", "model", "and", "you", "know", "your", "model", "might", "run", "slower", "", "faster", "depending", "on", "the", "speed", "of", "your", "computer", "my", "model", "gets", "around", "60%", "accuracy", "on", "this", "run", "and", "note", "that", "this", "is", "not", "deterministic", "and", "neural", "networks", "in", "general", "are", "not", "stir", "monistic", "so", "you", "might", "get", "a", "somewhat", "different", "number", "it's", "always", "really", "important", "when", "doing", "any", "kind", "of", "machine", "learning", "to", "think", "about", "baselines", "what", "accuracy", "would", "random", "guessing", "get", "on", "this", "data", "set", "maybe", "stop", "and", "think", "about", "it", "okay", "I'll", "tell", "you", "there's", "ten", "digits", "in", "our", "data", "and", "our", "data", "is", "actually", "evenly", "distributed", "so", "random", "guessing", "say", "we", "get", "zero", "every", "time", "or", "just", "random", "numbers", "we'd", "get", "around", "ten", "percent", "accuracy", "so", "we", "can", "pat", "ourselves", "on", "the", "back", "and", "say", "that", "our", "model", "is", "doing", "better", "than", "random", "weird", "actually", "better", "than", "our", "model", "did", "in", "the", "first", "episode", "of", "this", "series", "so", "we're", "off", "to", "a", "good", "start", "but", "there", "are", "a", "ton", "of", "ways", "to", "improve", "this", "model", "the", "first", "thing", "we", "should", "probably", "do", "is", "fix", "the", "activation", "function", "and", "that's", "actually", "something", "we", "did", "in", "the", "last", "video", "so", "remember", "that", "our", "target", "values", "are", "zeros", "and", "ones", "but", "our", "weighted", "sum", "can", "be", "anything", "a", "sigmoid", "or", "a", "soft", "max", "activation", "function", "will", "take", "the", "weighted", "sum", "and", "squeeze", "its", "output", "to", "a", "number", "between", "0", "and", "1", "Rosenblatt", "in", "fact", "use", "the", "same", "activation", "function", "with", "perceptrons", "and", "it's", "a", "little", "unusual", "that", "we", "left", "it", "out", "it", "helped", "us", "a", "lot", "in", "the", "last", "video", "so", "let's", "add", "it", "back", "by", "setting", "activation", "equals", "soft", "max", "to", "the", "line", "where", "we", "make", "the", "perceptrons", "you", "basically", "always", "want", "to", "use", "a", "soft", "max", "activation", "function", "on", "the", "last", "layer", "of", "your", "network", "if", "you're", "doing", "classification", "and", "the", "simple", "reason", "to", "do", "this", "is", "that", "you", "want", "to", "constrain", "your", "output", "to", "be", "between", "0", "&", "1", "and", "you", "can", "see", "this", "works", "significantly", "better", "right", "off", "the", "bat", "I'm", "getting", "around", "37", "38", "percent", "accuracy", "this", "is", "where", "we", "stopped", "last", "time", "but", "what", "else", "can", "we", "do", "let's", "take", "another", "look", "at", "that", "loss", "function", "so", "this", "gets", "a", "little", "mathy", "but", "loss", "functions", "really", "matter", "in", "this", "diagram", "I", "have", "two", "linear", "regressions", "we're", "used", "to", "linear", "regression", "optimizing", "squared", "error", "but", "actually", "you", "can", "optimize", "lots", "of", "thing", "here", "one", "graph", "optimizes", "the", "absolute", "distance", "between", "the", "line", "and", "the", "points", "and", "the", "other", "optimizes", "the", "square", "the", "distance", "can", "you", "guess", "which", "is", "which", "I", "actually", "do", "this", "in", "the", "prequel", "video", "but", "take", "some", "time", "to", "think", "about", "it", "if", "you", "haven't", "seen", "this", "before", "this", "surprises", "lots", "of", "students", "but", "the", "left", "is", "actually", "optimizing", "squared", "error", "and", "the", "right", "is", "optimizing", "absolute", "error", "squared", "error", "means", "that", "the", "distance", "to", "a", "point", "is", "squared", "so", "further", "points", "actually", "have", "a", "lot", "more", "pull", "on", "the", "line", "than", "points", "closer", "to", "the", "line", "outliers", "have", "a", "big", "effect", "on", "squared", "error", "and", "much", "less", "of", "an", "effect", "an", "absolute", "error", "loss", "functions", "matter", "a", "lot", "with", "neural", "nets", "also", "we've", "been", "using", "mean", "squared", "error", "but", "when", "you're", "working", "with", "probabilities", "categorical", "cross", "entropy", "is", "really", "the", "thing", "you", "want", "to", "use", "now", "this", "is", "a", "part", "you", "can", "skip", "ahead", "of", "or", "just", "let", "your", "eyes", "glaze", "over", "and", "the", "takeaway", "I'll", "tell", "you", "is", "that", "you", "should", "always", "use", "categorical", "cross", "entropy", "if", "you're", "categorizing", "things", "but", "many", "students", "always", "want", "to", "know", "why", "is", "it", "and", "I'll", "try", "to", "explain", "it", "without", "getting", "into", "too", "much", "math", "categorical", "cross", "entropy", "loss", "makes", "neural", "networks", "output", "their", "true", "power", "probability", "of", "an", "outcome", "so", "if", "the", "answer", "you're", "looking", "for", "is", "one", "categorical", "cross", "entropy", "will", "give", "you", "an", "infinite", "loss", "sieve", "prick", "zero", "and", "diminishing", "returns", "the", "closer", "your", "prick", "to", "one", "remember", "that", "with", "a", "loss", "function", "lower", "is", "better", "and", "higher", "is", "worse", "I'll", "tell", "you", "I", "took", "a", "class", "at", "Stanford", "a", "long", "time", "ago", "where", "every", "question", "was", "a", "multiple-choice", "question", "and", "we", "had", "to", "put", "our", "probability", "belief", "of", "each", "answer", "not", "just", "the", "answer", "that", "we", "thought", "was", "most", "likely", "and", "we", "were", "actually", "scored", "with", "categorical", "cross", "entropy", "if", "we", "put", "that", "we", "thought", "the", "probability", "of", "an", "answer", "was", "zero", "and", "it", "turned", "out", "to", "be", "the", "right", "answer", "we", "would", "get", "negative", "infinity", "points", "and", "fail", "the", "entire", "class", "so", "we", "would", "never", "put", "a", "probability", "of", "zero", "unless", "you're", "100%", "sure", "it", "wasn't", "the", "answer", "if", "the", "teacher", "had", "given", "us", "just", "as", "many", "points", "as", "the", "probability", "score", "we", "put", "on", "the", "right", "answer", "we", "wouldn't", "have", "been", "properly", "incentivized", "and", "we", "wouldn't", "have", "put", "any", "probability", "on", "the", "low", "probability", "answers", "and", "you", "probably", "need", "to", "stop", "and", "think", "about", "that", "I", "know", "I", "would", "need", "to", "stop", "and", "think", "about", "that", "and", "if", "it", "really", "didn't", "make", "any", "sense", "or", "if", "you", "want", "to", "think", "about", "more", "later", "it's", "totally", "fine", "the", "main", "point", "again", "is", "that", "you", "should", "always", "use", "categorical", "cross", "entropy", "as", "your", "loss", "function", "when", "doing", "classification", "let's", "try", "it", "so", "where", "it", "used", "to", "say", "MSC", "or", "mean", "squared", "error", "we", "change", "it", "to", "categorical", "underscore", "cross", "entropy", "and", "as", "you", "can", "see", "this", "improves", "things", "quite", "a", "bit", "and", "it's", "another", "benefit", "is", "that", "we", "can", "trust", "the", "output", "of", "these", "perceptrons", "to", "be", "guessed", "probabilities", "of", "the", "different", "digits", "okay", "but", "we're", "not", "done", "yet", "there's", "another", "thing", "that", "tutorials", "never", "cover", "that's", "super", "important", "it's", "getting", "neural", "networks", "to", "work", "well", "which", "is", "normalizing", "your", "data", "so", "neural", "networks", "are", "not", "what's", "known", "as", "scale", "invariant", "if", "you", "take", "your", "data", "and", "you", "divide", "it", "all", "by", "two", "or", "multiply", "it", "by", "ten", "some", "algorithms", "won't", "change", "decision", "trees", "and", "random", "forests", "they", "don't", "care", "about", "the", "actual", "magnitude", "of", "your", "data", "but", "neural", "nets", "actually", "really", "do", "and", "when", "you're", "working", "with", "carrots", "actually", "most", "of", "the", "well-known", "neural", "network", "libraries", "like", "tensor", "flow", "or", "pi", "torch", "you'll", "get", "much", "better", "results", "if", "you", "normalize", "your", "data", "to", "be", "between", "zero", "and", "one", "or", "negative", "one", "and", "one", "and", "actually", "in", "our", "case", "our", "data", "is", "between", "zero", "and", "255", "so", "it's", "way", "outside", "of", "the", "range", "that", "our", "network", "is", "expecting", "to", "have", "the", "data", "in", "right", "now", "all", "of", "our", "data", "is", "between", "0", "to", "255", "and", "we", "want", "to", "be", "between", "0", "and", "1", "so", "let's", "try", "just", "adding", "X", "underscore", "train", "divide", "equals", "255", "which", "should", "divide", "every", "value", "in", "X", "underscore", "train", "by", "255", "we", "also", "do", "the", "same", "thing", "for", "X", "underscore", "test", "we", "save", "our", "file", "and", "we", "run", "it", "what", "happens", "we", "had", "a", "really", "scary", "looking", "error", "message", "it", "turns", "out", "that", "we", "need", "to", "cast", "our", "X", "underscore", "train", "and", "next", "underscore", "test", "of", "floats", "right", "now", "they're", "set", "to", "integers", "we", "can", "add", "X", "underscore", "train", "equals", "X", "underscore", "train", "debt", "as", "type", "flow", "if", "you're", "having", "trouble", "following", "along", "the", "complete", "working", "code", "is", "in", "perceptron", "-", "normalize", "dot", "pi", "and", "it", "turns", "out", "that", "this", "little", "change", "helps", "a", "ton", "normalizing", "data", "is", "a", "messy", "detail", "of", "neural", "networks", "that", "people", "just", "don't", "talk", "about", "enough", "okay", "guys", "we've", "made", "a", "ton", "of", "progress", "here", "you'll", "never", "make", "this", "much", "progress", "this", "fast", "ever", "in", "your", "career", "trust", "me", "we've", "gone", "from", "50%", "accuracy", "to", "90%", "accuracy", "in", "10", "minutes", "so", "it's", "worth", "recapping", "what", "we", "did", "so", "one", "is", "reset", "our", "activation", "function", "to", "be", "softmax", "which", "is", "a", "good", "idea", "we", "set", "our", "loss", "function", "to", "categorical", "cross-entropy", "which", "is", "a", "good", "idea", "if", "you're", "doing", "categorization", "and", "we", "normalize", "their", "data", "which", "is", "almost", "always", "a", "good", "idea", "but", "there's", "still", "actually", "a", "lot", "more", "to", "go", "right", "now", "we", "only", "have", "a", "single", "layer", "of", "perceptrons", "which", "is", "really", "far", "from", "deep", "learning", "before", "we", "go", "on", "how", "many", "weights", "does", "our", "model", "have", "each", "label", "or", "output", "is", "connected", "to", "each", "pixel", "or", "input", "and", "there's", "784", "inputs", "and", "there's", "10", "outputs", "so", "there's", "gonna", "be", "a", "total", "of", "7840", "weights", "in", "our", "model", "and", "actually", "I", "lied", "to", "you", "there's", "a", "few", "more", "each", "perceptron", "has", "it's", "called", "a", "bias", "term", "which", "is", "an", "input", "always", "set", "to", "one", "you", "don't", "really", "have", "to", "worry", "about", "that", "but", "to", "get", "the", "exact", "answer", "there's", "really", "7850", "parameters", "for", "this", "model", "to", "learn", "you", "can", "always", "check", "that", "by", "calling", "model", "", "summary", "in", "fact", "let's", "do", "that", "quickly", "now", "so", "as", "you", "can", "see", "the", "flattened", "layer", "has", "no", "trainable", "parameters", "since", "it", "always", "is", "the", "same", "thing", "every", "time", "and", "the", "dense", "layer", "has", "7850", "trainable", "parameters", "despite", "having", "all", "these", "parameters", "our", "model", "can", "actually", "only", "look", "at", "individual", "correlations", "between", "a", "pixel", "and", "a", "label", "if", "you", "want", "to", "capture", "interactions", "between", "pixels", "we", "need", "to", "make", "our", "model", "more", "complicated", "a", "multi-layer", "perceptron", "takes", "the", "output", "of", "some", "number", "of", "perceptrons", "and", "uses", "them", "as", "input", "to", "more", "perceptrons", "here", "the", "input", "comes", "in", "from", "the", "bottom", "and", "there's", "a", "hidden", "intermediate", "layer", "the", "intermediate", "perceptrons", "were", "just", "like", "the", "output", "perceptrons", "but", "they", "don't", "classify", "anything", "they", "just", "output", "numbers", "typically", "these", "days", "hidden", "layers", "use", "an", "activation", "function", "called", "relu", "a", "rectified", "linear", "unit", "a", "complicated", "name", "for", "unbelievably", "simple", "algorithm", "it", "just", "truncates", "the", "negative", "values", "basically", "it", "turns", "out", "all", "nonlinear", "activation", "functions", "work", "very", "similarly", "and", "reloj", "is", "just", "really", "fast", "and", "has", "some", "other", "benefits", "so", "it's", "used", "for", "intermediate", "layers", "most", "of", "the", "time", "okay", "you", "can", "try", "to", "modify", "our", "existing", "code", "or", "you", "could", "take", "a", "look", "at", "MLP", "type", "pie", "where", "we", "set", "this", "up", "for", "you", "this", "code", "is", "super", "similar", "it's", "our", "perceptron", "model", "with", "really", "just", "a", "single", "important", "line", "added", "and", "that's", "line", "40", "and", "what", "this", "line", "does", "is", "it", "adds", "a", "second", "dense", "layer", "with", "a", "number", "of", "hidden", "nodes", "now", "we", "set", "this", "in", "config", "that", "hidden", "nodes", "200", "but", "you", "can", "definitely", "try", "other", "numbers", "now", "let's", "run", "MLP", "type", "I", "and", "see", "what", "happens", "one", "thing", "you'll", "notice", "right", "away", "is", "that", "this", "model", "takes", "a", "lot", "longer", "to", "Train", "but", "over", "time", "it", "gets", "better", "now", "there's", "another", "issue", "that's", "more", "subtle", "but", "super", "important", "which", "is", "that", "our", "accuracy", "now", "starts", "to", "get", "higher", "than", "our", "validation", "accuracy", "in", "fact", "if", "you", "run", "this", "model", "for", "a", "while", "the", "accuracy", "will", "get", "a", "lot", "better", "and", "the", "validation", "accuracy", "will", "not", "improve", "this", "is", "a", "phenomenon", "known", "as", "overfitting", "as", "models", "become", "more", "complicated", "overfitting", "becomes", "more", "and", "more", "of", "an", "issue", "and", "it", "can", "happen", "in", "all", "kinds", "of", "domains", "including", "single", "variable", "regression", "here's", "the", "line", "in", "the", "middle", "is", "a", "little", "more", "free", "than", "the", "straight", "line", "is", "on", "the", "left", "but", "if", "we", "let", "our", "line", "move", "around", "too", "much", "it", "can", "just", "go", "through", "all", "the", "points", "without", "really", "capturing", "the", "data", "how", "do", "you", "know", "if", "you're", "overfitting", "when", "you're", "training", "accuracy", "is", "better", "than", "your", "validation", "accuracy", "remember", "that", "our", "validation", "accuracy", "is", "the", "accuracy", "on", "data", "that", "the", "model", "did", "not", "see", "while", "it", "was", "training", "so", "the", "validation", "accuracy", "is", "a", "better", "estimate", "of", "how", "our", "model", "is", "actually", "going", "to", "do", "try", "setting", "the", "number", "of", "hidden", "nodes", "to", "a", "larger", "and", "larger", "number", "and", "see", "what", "happens", "what", "happens", "oh", "wait", "okay", "we're", "back", "maybe", "that's", "took", "you", "an", "hour", "if", "you", "really", "did", "it", "probably", "the", "training", "accuracy", "gets", "better", "and", "better", "but", "the", "validation", "accuracy", "or", "accurate", "send", "into", "the", "model", "hasn't", "seen", "before", "gets", "worse", "and", "worse", "or", "at", "least", "just", "flattens", "out", "as", "models", "get", "more", "and", "more", "complicated", "they", "have", "the", "potential", "to", "do", "better", "and", "better", "but", "overfitting", "becomes", "more", "and", "more", "of", "a", "problem", "in", "general", "overfitting", "is", "a", "huge", "problem", "with", "neural", "nets", "but", "there's", "actually", "one", "awesome", "silver", "bullet", "and", "that", "silver", "bullet", "is", "dropout", "dropout", "is", "a", "simple", "easy", "to", "explain", "algorithm", "that", "helps", "a", "ton", "on", "every", "batch", "of", "data", "we", "said", "some", "fraction", "of", "the", "inputs", "in", "a", "layer", "to", "zero", "why", "is", "this", "a", "good", "idea", "you", "might", "want", "to", "stop", "the", "video", "and", "to", "think", "about", "this", "for", "a", "second", "the", "way", "I", "like", "to", "think", "about", "it", "is", "that", "it", "forces", "the", "network", "to", "learn", "more", "than", "one", "reason", "for", "every", "classification", "imagine", "a", "pixel", "in", "the", "upper", "left", "was", "always", "lit", "up", "if", "and", "only", "if", "the", "digit", "was", "a", "seven", "our", "network", "could", "happily", "learn", "the", "only", "needs", "to", "look", "at", "the", "upper", "left-hand", "digit", "to", "decide", "if", "the", "handwritten", "number", "was", "a", "seven", "to", "optimize", "the", "loss", "in", "the", "training", "data", "but", "drop", "out", "would", "force", "the", "network", "to", "learn", "multiple", "pathways", "for", "deciding", "if", "a", "digit", "is", "a", "seven", "because", "some", "fraction", "of", "the", "time", "that", "value", "would", "be", "hidden", "dropout", "turns", "off", "when", "you", "deploy", "your", "model", "or", "when", "you", "run", "your", "model", "on", "a", "held", "out", "set", "it's", "really", "easy", "to", "add", "you", "should", "just", "add", "dropout", "layers", "between", "your", "perceptron", "layers", "and", "check", "out", "what", "it", "does", "you", "now", "when", "we", "train", "our", "model", "the", "training", "accuracy", "is", "actually", "worse", "than", "the", "validation", "accuracy", "but", "the", "great", "thing", "is", "that", "our", "validation", "accuracy", "can", "keep", "going", "up", "as", "we", "make", "our", "model", "more", "and", "more", "complicated", "a", "great", "rule", "of", "thumb", "is", "this", "if", "you're", "training", "accuracy", "is", "higher", "than", "your", "validation", "or", "test", "accuracy", "you're", "overfitting", "if", "you", "are", "overfitting", "anything", "you", "can", "do", "to", "make", "your", "model", "fancier", "or", "more", "complicated", "is", "only", "going", "to", "hurt", "you", "you", "need", "to", "stop", "and", "fix", "that", "overfitting", "and", "the", "easiest", "way", "to", "fix", "overfitting", "is", "almost", "always", "that", "dropout", "it's", "typically", "put", "between", "every", "layer", "with", "free", "parameters", "so", "this", "was", "part", "of", "the", "densest", "video", "that", "we're", "going", "to", "make", "and", "we", "covered", "a", "ton", "of", "material", "we", "covered", "overfitting", "we", "covered", "data", "normalization", "we", "covered", "building", "a", "multi", "class", "perceptron", "and", "a", "multi-layer", "perceptron", "but", "we", "actually", "still", "haven't", "squeezed", "out", "all", "the", "performance", "that", "we", "can", "out", "of", "a", "data", "set", "like", "this", "and", "to", "get", "that", "final", "ounce", "of", "performance", "we're", "gonna", "have", "to", "build", "a", "convolutional", "neural", "network", "and", "I", "know", "you", "guys", "are", "excited", "to", "build", "a", "convolutional", "neural", "network", "so", "stay", "tuned", "for", "the", "next", "video", "well", "guys", "it's", "my", "dream", "to", "be", "a", "YouTube", "celebrity", "and", "I", "need", "your", "help", "subscribe", "is", "that", "that's", "how", "it", "works", "right", "like", "down", "or", "up", "or", "I", "don't", "know", "like", "you", "open", "a", "box", "like", "over" ]
[ "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "better.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "it...", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "which", "is", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "making.", "Remember", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "py", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "hot", "encoding", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "transformation?", "It's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "0.", "Stop", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "on.", "We", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "same.", "Dense", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "perceptrons", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "our", "mode.l", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "it.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "1.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "perceptrons.", "You", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "than", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "you", "predict", "", "one.", "Remember", "", "", "", "", "", "", "", "", "", "", "", "worse.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "that.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "it.", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "dot", "", "", "float.", "If", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "py", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "enough.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "learning.", "Before", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "reLU", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "reLU", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "dot", "py", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "dropout.", "Dropout", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "" ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 6, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 7, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
wzy8jI-duEQ
[ "we", "need", "to", "talk", "about", "convolutional", "neural", "networks", "so", "far", "everything", "that", "we've", "done", "applies", "to", "any", "type", "of", "input", "multi-layer", "perceptrons", "is", "a", "generic", "algorithm", "that", "you", "can", "use", "on", "literally", "any", "kind", "of", "input", "if", "you", "can", "get", "it", "into", "an", "array", "of", "numbers", "but", "convolutional", "neural", "networks", "only", "apply", "to", "certain", "data", "sets", "and", "images", "are", "one", "of", "them", "the", "reason", "is", "when", "we", "apply", "a", "multi-layer", "perceptron", "it", "throws", "out", "a", "lot", "of", "data", "when", "my", "little", "friend", "here", "looks", "at", "something", "and", "gets", "an", "image", "the", "image", "actually", "has", "some", "structure", "to", "it", "it's", "a", "2d", "array", "and", "the", "XY", "coordinates", "we", "have", "an", "intuition", "that", "they", "do", "matter", "and", "if", "I", "took", "an", "image", "and", "I", "shifted", "every", "pixel", "to", "the", "left", "all", "the", "numbers", "change", "but", "it's", "actually", "in", "that", "image", "probably", "stays", "the", "same", "so", "we", "need", "some", "new", "mathematical", "operators", "that", "take", "advantage", "of", "that", "and", "the", "operator", "that's", "generally", "used", "is", "called", "a", "convolution", "convolutions", "have", "been", "around", "for", "a", "really", "long", "time", "even", "convolutional", "neural", "networks", "have", "been", "around", "for", "a", "long", "time", "but", "around", "2011", "or", "2012", "applying", "convolutions", "to", "object", "recognition", "inside", "images", "with", "neural", "nets", "went", "mainstream", "with", "huge", "success", "the", "task", "of", "recognizing", "what's", "in", "an", "arbitrary", "image", "went", "from", "being", "basically", "impossible", "for", "any", "machine", "learning", "algorithm", "to", "having", "better", "than", "human", "level", "accuracy", "in", "many", "cases", "using", "CNN's", "this", "kind", "of", "improvement", "for", "mere", "30", "percent", "error", "rate", "to", "better", "than", "human", "accuracy", "over", "just", "a", "few", "years", "is", "probably", "one", "of", "the", "biggest", "breakthroughs", "in", "AI", "and", "it's", "probably", "a", "big", "part", "of", "the", "reason", "you're", "actually", "watching", "this", "video", "let's", "apply", "convolutions", "to", "our", "image", "recognition", "problem", "what", "is", "a", "convolution", "now", "generally", "speaking", "there's", "one", "D", "convolutions", "and", "two", "D", "convolutions", "and", "three", "D", "convolutions", "and", "you", "might", "have", "seen", "a", "convolution", "in", "signal", "processing", "or", "in", "your", "math", "class", "involving", "somehow", "Fourier", "transforms", "but", "in", "this", "case", "what", "we", "mean", "by", "convolution", "is", "actually", "a", "2d", "discrete", "convolution", "and", "so", "you", "can", "think", "of", "that", "as", "sliding", "a", "window", "of", "weights", "across", "an", "image", "or", "more", "practically", "you", "can", "think", "of", "it", "as", "very", "low-budget", "Photoshop", "filter", "so", "assuming", "you're", "in", "the", "right", "directory", "you", "can", "find", "a", "little", "tool", "I", "wrote", "called", "con", "demo", "this", "is", "mostly", "for", "demonstration", "purposes", "I", "start", "with", "the", "kernel", "set", "to", "a", "three", "by", "three", "array", "where", "each", "value", "is", "equal", "to", "0.1", "and", "now", "what", "this", "convolution", "does", "is", "it", "scans", "across", "the", "image", "and", "it", "takes", "each", "pixel", "value", "in", "a", "3x3", "chunk", "and", "it", "multiplies", "it", "by", "0.1", "and", "then", "sums", "the", "number", "and", "then", "puts", "the", "sum", "in", "the", "first", "value", "of", "the", "output", "image", "now", "we", "step", "one", "pixel", "of", "the", "right", "and", "we", "do", "the", "same", "thing", "with", "the", "same", "weights", "and", "we", "do", "it", "over", "and", "over", "and", "over", "for", "every", "pixel", "in", "the", "image", "this", "convolution", "basically", "averages", "over", "3x3", "block", "so", "essentially", "you", "can", "think", "of", "it", "as", "a", "blur", "okay", "so", "what", "do", "you", "think", "this", "does", "if", "I", "make", "the", "middle", "of", "the", "kernel", "1", "and", "all", "the", "other", "numbers", "0", "I", "actually", "get", "the", "original", "image", "back", "and", "now", "what", "do", "you", "think", "this", "does", "if", "I", "make", "the", "middle", "of", "the", "kernel", "2", "and", "all", "the", "other", "numbers", "0", "it", "actually", "makes", "everything", "brighter", "which", "kind", "of", "makes", "sense", "because", "it", "multiplies", "each", "of", "the", "pixels", "by", "2", "exactly", "and", "now", "I", "won't", "go", "through", "this", "I'll", "leave", "this", "to", "you", "but", "you", "should", "think", "about", "what", "does", "this", "do", "if", "I", "make", "the", "middle", "of", "the", "kernel", "1", "and", "the", "number", "of", "above", "it", "negative", "1", "or", "what", "do", "you", "think", "this", "does", "if", "I", "make", "the", "middle", "of", "the", "kernel", "1", "and", "all", "the", "others", "are", "numbers", "around", "it", "negative", "0.1", "and", "if", "you", "play", "with", "this", "conv", "demo", "for", "a", "while", "you'll", "get", "a", "great", "intuition", "for", "what", "convolutions", "can", "do", "there's", "actually", "one", "more", "piece", "of", "this", "that's", "important", "which", "is", "how", "we", "do", "convolution", "on", "multiple", "images", "and", "a", "really", "important", "case", "is", "where", "this", "happens", "on", "color", "images", "so", "actually", "my", "little", "dog", "was", "originally", "a", "color", "image", "so", "the", "way", "we", "pass", "it", "into", "the", "neural", "net", "is", "we", "broke", "it", "up", "into", "red", "green", "and", "blue", "components", "so", "actually", "we", "do", "a", "3x3", "convolution", "on", "the", "red", "data", "the", "green", "data", "the", "blue", "data", "and", "then", "we", "add", "up", "all", "the", "results", "so", "sometimes", "convolutions", "take", "a", "step", "of", "more", "than", "one", "if", "each", "iteration", "moved", "by", "a", "step", "of", "two", "we", "would", "say", "that", "the", "convolution", "had", "a", "stride", "of", "two", "how", "we", "handled", "the", "edges", "also", "matters", "if", "we", "do", "a", "3x3", "convolution", "on", "an", "image", "and", "we", "don't", "go", "over", "the", "edges", "the", "output", "image", "is", "a", "little", "smaller", "than", "the", "input", "image", "this", "is", "what", "Kerris", "does", "by", "default", "so", "if", "you", "want", "to", "preserve", "the", "image", "size", "you", "have", "to", "add", "zeros", "around", "the", "input", "image", "and", "that's", "called", "zero", "padding", "now", "there's", "another", "simpler", "transformation", "also", "very", "common", "in", "neural", "networks", "called", "pooling", "if", "convolutions", "are", "a", "bad", "photoshop", "filter", "pooling", "is", "like", "a", "bad", "resizing", "algorithm", "typically", "pooling", "takes", "a", "2x2", "region", "of", "an", "image", "and", "chooses", "the", "max", "value", "in", "each", "region", "this", "is", "max", "pooling", "average", "pooling", "takes", "the", "average", "in", "each", "region", "either", "way", "this", "shrinks", "the", "image", "by", "a", "factor", "of", "two", "you", "can", "actually", "achieve", "similar", "results", "with", "strides", "but", "we", "want", "to", "shrink", "down", "the", "image", "so", "we", "can", "do", "convolutions", "at", "different", "scales", "now", "let's", "go", "to", "the", "code", "and", "put", "it", "all", "together", "so", "open", "up", "CNN", "Pi", "and", "you'll", "notice", "that", "this", "is", "very", "very", "similar", "Tori", "left", "off", "in", "the", "last", "video", "of", "a", "multi-layer", "perceptron", "but", "there's", "a", "nasty", "little", "wrinkle", "on", "lines", "19", "and", "20", "and", "that's", "because", "Kerris", "is", "2d", "convolutions", "want", "three-dimensional", "input", "because", "most", "images", "are", "actually", "two-dimensional", "but", "then", "have", "a", "third", "dimension", "for", "color", "our", "images", "happen", "to", "be", "two-dimensional", "only", "because", "they're", "grayscale", "and", "they", "don't", "have", "a", "color", "dimension", "so", "we", "need", "to", "use", "the", "handy", "reshape", "function", "that", "takes", "our", "image", "and", "adds", "an", "extra", "dimension", "of", "length", "one", "to", "fit", "Harris's", "convolution", "API", "now", "line", "29", "is", "the", "others", "line", "that", "changes", "until", "now", "we've", "actually", "flattened", "out", "all", "of", "our", "models", "for", "perceptrons", "but", "in", "this", "case", "we're", "going", "to", "do", "a", "convolution", "instead", "of", "the", "flattening", "notice", "that", "we", "still", "have", "to", "explicitly", "tell", "our", "model", "that", "the", "input", "shape", "is", "28", "by", "28", "by", "1", "we're", "actually", "doing", "30", "to", "3x3", "convolutions", "in", "parallel", "and", "we're", "going", "to", "need", "to", "learn", "the", "weights", "of", "each", "of", "those", "convolution", "parameters", "next", "we", "had", "a", "max", "pooling", "layer", "which", "shrinks", "down", "the", "network", "then", "we", "had", "a", "flatten", "layer", "because", "the", "next", "and", "Slayer", "is", "a", "perceptron", "and", "expects", "a", "one", "dimensional", "input", "let's", "try", "running", "our", "model", "but", "before", "we", "do", "it", "let's", "be", "sure", "to", "call", "model", "death", "summary", "and", "check", "out", "the", "output", "okay", "because", "we're", "in", "a", "new", "directory", "we", "need", "these", "called", "W", "and", "B", "and", "knit", "one", "more", "time", "to", "set", "this", "up", "we", "can", "use", "the", "same", "user", "name", "and", "we", "can", "optionally", "select", "a", "new", "project", "or", "use", "our", "previous", "project", "if", "you've", "been", "following", "along", "with", "previous", "videos", "now", "Python", "CNN", "PI", "actually", "trains", "the", "model", "and", "here's", "where", "a", "GPU", "would", "start", "to", "really", "speed", "things", "up", "there's", "only", "320", "parameters", "in", "our", "convolution", "layer", "but", "they", "dramatically", "affect", "the", "output", "you", "can", "see", "because", "we", "don't", "have", "pooling", "it", "actually", "shrinks", "our", "image", "input", "from", "28", "by", "28", "to", "26", "by", "26", "in", "the", "convolution", "but", "it", "actually", "makes", "32", "different", "output", "images", "so", "the", "output", "size", "of", "our", "convolution", "layer", "is", "really", "large", "the", "max", "pooling", "layer", "has", "no", "free", "parameters", "because", "it", "always", "does", "the", "same", "thing", "but", "it", "cuts", "the", "size", "of", "our", "images", "in", "half", "the", "flattened", "layer", "of", "course", "also", "has", "no", "free", "parameters", "the", "hidden", "dense", "layer", "has", "a", "ton", "of", "free", "parameters", "because", "it", "has", "a", "hundred", "and", "twenty", "eight", "outputs", "and", "five", "thousand", "four", "hundred", "and", "eight", "inputs", "our", "total", "model", "has", "nearly", "1", "million", "free", "parameters", "and", "only", "60,000", "training", "data", "points", "so", "what", "should", "we", "be", "worried", "about", "I", "hope", "you", "guessed", "overfitting", "because", "if", "you", "did", "that", "means", "you've", "been", "paying", "attention", "and", "I", "hope", "that", "you're", "thinking", "if", "I", "have", "overfitting", "I", "should", "do", "one", "thing", "and", "that", "is", "to", "add", "dropout", "now", "if", "you", "were", "my", "student", "and", "we", "were", "in", "person", "I", "would", "make", "you", "do", "that", "on", "your", "own", "to", "check", "understanding", "I", "can't", "do", "that", "on", "the", "video", "but", "I", "think", "you", "should", "try", "I'll", "show", "you", "how", "to", "add", "dropout", "to", "the", "network", "and", "there's", "more", "than", "one", "way", "to", "do", "it", "here's", "how", "I", "would", "do", "it", "typically", "you", "want", "to", "put", "dropout", "between", "layers", "that", "actually", "have", "a", "free", "parameter", "so", "in", "this", "case", "it'll", "be", "after", "the", "max", "pooling", "layer", "and", "then", "after", "the", "final", "dense", "layer", "you", "could", "also", "put", "dropout", "before", "the", "very", "first", "layer", "typical", "inputs", "to", "the", "dropout", "is", "about", "0.4", "which", "means", "that", "40%", "of", "the", "things", "coming", "into", "the", "drop", "out", "gets", "set", "to", "zero", "you", "could", "set", "this", "anywhere", "between", "20%", "and", "50%", "it", "tends", "to", "not", "matter", "that", "much", "this", "is", "gonna", "take", "a", "while", "to", "train", "so", "what", "we", "wait", "I'll", "tell", "you", "about", "one", "more", "improvement", "that", "we", "have", "we're", "actually", "at", "98%", "accuracy", "so", "but", "to", "get", "to", "99%", "accuracy", "we", "need", "to", "have", "multiple", "convolutional", "layers", "and", "the", "intuition", "for", "why", "is", "it", "a", "convolution", "only", "acts", "at", "one", "scale", "but", "if", "we", "shrink", "the", "image", "down", "and", "we", "do", "another", "convolution", "then", "we", "can", "detect", "patterns", "and", "multiple", "scales", "so", "a", "typical", "architecture", "for", "most", "object", "recognition", "tasks", "will", "actually", "have", "multiple", "convolutions", "and", "some", "kind", "of", "shrinking", "operation", "in", "between", "the", "convolutions", "max", "pooling", "is", "probably", "the", "most", "common", "but", "you'll", "see", "other", "strategies", "for", "shrinking", "the", "image", "down", "so", "this", "diagram", "actually", "lays", "out", "a", "very", "typical", "convolutional", "neural", "network", "the", "bottom", "here", "is", "the", "input", "eight", "and", "that's", "actually", "the", "digit", "8", "from", "the", "same", "data", "set", "we're", "looking", "at", "and", "then", "the", "next", "layer", "from", "the", "bottom", "is", "the", "first", "convolutional", "layer", "then", "there's", "another", "max", "pooling", "layer", "followed", "by", "another", "convolutional", "layer", "followed", "by", "another", "max", "pooling", "layer", "followed", "by", "some", "hidden", "layers", "and", "if", "you", "look", "closely", "you", "can", "see", "the", "output", "that", "the", "eighth", "neuron", "is", "lit", "up", "on", "the", "top", "I", "love", "this", "visualization", "because", "you", "can", "see", "all", "the", "crazy", "things", "the", "convolutions", "do", "now", "here's", "a", "challenge", "can", "you", "actually", "create", "this", "network", "by", "modifying", "CNN", "pi", "so", "stop", "this", "video", "and", "give", "it", "a", "try", "if", "you", "like", "I", "do", "it", "by", "adding", "two", "layers", "in", "the", "middle", "of", "this", "network", "you", "can", "actually", "tune", "the", "number", "of", "outputs", "of", "this", "layer", "and", "the", "number", "of", "nodes", "in", "the", "hidden", "layer", "experiment", "see", "if", "you", "can", "build", "interesting", "network", "architectures", "that", "get", "higher", "accuracy", "we're", "actually", "getting", "almost", "perfect", "accuracy", "on", "this", "data", "set", "at", "this", "point", "so", "it", "might", "be", "time", "to", "try", "applying", "this", "to", "something", "else", "and", "for", "your", "educational", "entertainment", "I", "have", "a", "completely", "new", "but", "very", "similar", "data", "set", "called", "fashion", "M", "NIST", "it's", "60,000", "images", "but", "instead", "of", "being", "handwritten", "numbers", "they're", "images", "of", "clothes", "and", "the", "categories", "are", "a", "t-shirt", "trouser", "pullover", "dress", "coat", "sandal", "shirts", "sneaker", "bag", "and", "ankle", "boot", "in", "fact", "if", "you", "open", "up", "fashion", "dot", "pie", "I", "have", "some", "skeleton", "code", "that", "starts", "off", "where", "this", "whole", "set", "of", "lessons", "began", "with", "a", "very", "very", "basic", "perceptron", "can", "you", "apply", "what", "you've", "learned", "to", "build", "a", "fashion", "classifier", "on", "a", "similar", "data", "set", "let", "me", "know", "how", "it", "goes", "and", "comment", "below", "okay", "so", "so", "far", "we've", "covered", "the", "basic", "introductory", "class", "into", "neural", "networks", "we've", "done", "perceptrons", "multi-layer", "perceptrons", "and", "convolutional", "neural", "networks", "this", "should", "be", "a", "basic", "understanding", "that", "lets", "you", "actually", "use", "real", "deep", "learning", "code", "in", "the", "wild", "but", "from", "here", "on", "out", "it", "gets", "super", "fun", "we", "can", "apply", "this", "to", "lots", "of", "different", "applications", "and", "I", "want", "to", "show", "you", "about", "autoencoders", "which", "are", "a", "really", "cool", "architecture", "I", "want", "to", "show", "you", "about", "transfer", "learning", "I", "want", "to", "show", "you", "about", "text", "and", "lots", "of", "other", "things", "but", "you", "should", "actually", "enjoy", "the", "knowledge", "you", "have", "right", "now", "on", "convolutional", "neural", "networks", "go", "out", "and", "build", "an", "object", "classifier", "on", "a", "new", "set", "of", "data", "I", "think", "you'll", "really", "have", "fun", "ok", "yeah", "you", "know", "just", "came", "from", "board", "meeting", "and", "they", "told", "me", "if", "I", "don't", "get", "a", "million", "subscribers", "next", "week", "they're", "gonna", "fire", "me", "so", "really", "mean", "a", "lot", "if", "you", "guys", "could", "subscribe", "and", "like", "and", "click", "on", "my", "patreon", "what", "else" ]
[ "We", "", "", "", "", "", "", "networks.", "So", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "convolution.", "Convolutions", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Py", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Karas's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "dense", "layer", "", "", "", "", "", "", "", "", "input.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "dot", "", "", "", "", "", "", "", "", "", "Open", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Py", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "py", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "" ]
[ 1, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
vbhEnEbj3JM
[ "hello", "everybody", "my", "name", "is", "Chris", "and", "today", "we're", "gonna", "talk", "about", "transfer", "learning", "I", "think", "transfer", "learning", "is", "really", "cool", "because", "it", "lets", "you", "take", "a", "small", "data", "set", "and", "actually", "create", "a", "really", "accurate", "model", "we're", "gonna", "do", "this", "by", "leveraging", "very", "large", "networks", "that", "were", "trained", "for", "many", "hours", "or", "even", "days", "on", "much", "larger", "data", "sets", "than", "ours", "and", "actually", "transfer", "that", "knowledge", "into", "our", "own", "network", "made", "specifically", "for", "our", "classification", "problem", "so", "today", "we're", "going", "to", "be", "working", "with", "the", "Freiburg", "Grocery", "data", "set", "which", "is", "a", "small", "data", "set", "about", "four", "thousand", "images", "of", "various", "grocery", "products", "and", "we", "want", "to", "train", "our", "classifier", "to", "tell", "us", "what", "type", "of", "grocery", "products", "those", "are", "so", "let's", "take", "a", "look", "at", "the", "data", "so", "first", "we're", "going", "to", "import", "our", "carrots", "model", "layers", "so", "we", "can", "we", "can", "build", "a", "carrots", "model", "and", "we're", "also", "importing", "ResNet", "50", "which", "is", "a", "image", "classification", "network", "actually", "out", "of", "Microsoft", "Research", "that's", "very", "large", "and", "we're", "going", "to", "be", "able", "to", "transfer", "knowledge", "from", "it", "into", "our", "own", "network", "so", "first", "we", "need", "to", "load", "our", "training", "data", "so", "here", "we're", "splitting", "our", "training", "data", "into", "a", "train", "and", "a", "test", "as", "well", "as", "extracting", "the", "class", "names", "from", "this", "utility", "library", "called", "groceries", "and", "let's", "take", "a", "look", "at", "one", "of", "those", "images", "actually", "looks", "like", "there", "you", "go", "jar", "of", "pickles", "hopefully", "we", "can", "train", "our", "machine", "to", "tell", "us", "that", "so", "let's", "look", "at", "what", "the", "other", "classes", "in", "the", "dataset", "look", "like", "we've", "got", "beans", "cake", "pasta", "and", "my", "favorite", "vinegar", "all", "right", "let's", "see", "how", "the", "data", "is", "actually", "distributed", "so", "as", "you", "can", "see", "some", "of", "the", "classes", "don't", "have", "nearly", "as", "many", "examples", "as", "others", "hopefully", "transfer", "learning", "can", "help", "to", "compensate", "for", "this", "so", "before", "we", "can", "train", "our", "model", "we", "need", "to", "convert", "our", "categories", "which", "are", "going", "to", "be", "numbers", "between", "0", "and", "25", "into", "1", "hot", "encoded", "vectors", "so", "we're", "calling", "two", "categorical", "on", "our", "labels", "and", "now", "just", "to", "see", "how", "we", "can", "perform", "on", "this", "data", "set", "with", "a", "very", "simple", "perceptron", "let's", "go", "ahead", "normalize", "our", "data", "and", "then", "just", "create", "a", "single", "layer", "perceptron", "model", "we're", "going", "to", "use", "categorical", "cross-entropy", "for", "our", "loss", "because", "this", "is", "a", "multi-class", "classification", "problem", "our", "good", "old", "friend", "the", "atom", "optimizer", "and", "we", "also", "want", "to", "view", "accuracy", "so", "we", "can", "have", "a", "better", "metric", "to", "comprehend", "what's", "going", "on", "lastly", "we're", "calling", "W", "in", "it", "so", "we", "can", "visualize", "our", "metrics", "and", "let's", "go", "ahead", "and", "train", "this", "model", "okay", "so", "looks", "like", "we", "aren't", "doing", "so", "well", "our", "validation", "accuracy", "is", "point", "zero", "four", "percent", "this", "is", "this", "is", "very", "troubling", "our", "extra", "our", "accuracy", "on", "the", "training", "data", "is", "even", "lower", "I", "mean", "I'm", "I", "look", "at", "this", "and", "I", "I", "feel", "ill", "there", "has", "to", "be", "a", "better", "way", "so", "Kerris", "makes", "it", "really", "easy", "to", "leverage", "the", "research", "community's", "progress", "in", "computer", "vision", "models", "so", "here", "we're", "going", "to", "import", "resident", "50", "and", "actually", "download", "the", "pre", "trained", "weights", "from", "training", "on", "image", "net", "which", "is", "an", "image", "data", "set", "with", "millions", "of", "images", "that", "takes", "many", "days", "to", "train", "so", "with", "this", "one", "line", "we're", "pulling", "in", "cutting-edge", "computer", "vision", "research", "let's", "go", "ahead", "and", "take", "a", "look", "at", "a", "model", "summary", "to", "see", "what", "this", "network", "looks", "like", "oh", "man", "so", "many", "layers", "resident", "50", "is", "much", "more", "complicated", "than", "our", "simple", "perceptron", "you", "can", "see", "things", "like", "batch", "normalization", "many", "different", "convolutions", "and", "then", "even", "this", "funny", "add", "layer", "so", "what", "resonate", "does", "is", "it", "actually", "branches", "off", "and", "takes", "features", "from", "earlier", "in", "the", "network", "and", "adds", "them", "back", "in", "in", "later", "layers", "and", "this", "helps", "the", "network", "train", "better", "and", "allows", "researchers", "to", "make", "an", "even", "deeper", "network", "which", "gives", "it", "more", "expressive", "ility", "and", "accuracy", "I", "can", "just", "keep", "on", "scrolling", "so", "to", "see", "what", "this", "network", "can", "actually", "do", "let's", "run", "it", "on", "a", "picture", "of", "an", "elephant", "because", "why", "not", "so", "here", "we're", "loading", "in", "our", "elephant", "we're", "changing", "its", "size", "to", "224", "pixels", "by", "224", "pixels", "because", "the", "network", "expects", "that", "size", "then", "we're", "expanding", "the", "dimensions", "because", "we", "need", "to", "include", "our", "batch", "dimension", "and", "we", "call", "this", "really", "important", "function", "pre", "process", "input", "so", "when", "they", "train", "ResNet", "the", "researchers", "used", "a", "very", "specific", "way", "pre", "processing", "the", "images", "and", "we're", "going", "to", "use", "their", "exact", "same", "logic", "to", "do", "that", "on", "our", "own", "data", "so", "that", "we", "can", "have", "high", "accuracy", "results", "coming", "out", "of", "the", "model", "lastly", "we", "just", "call", "predict", "and", "we're", "using", "this", "nice", "helper", "method", "decode", "predictions", "which", "are", "going", "to", "change", "the", "the", "various", "indices", "into", "the", "last", "layer", "and", "tell", "us", "exactly", "what", "category", "that", "it's", "predicting", "look", "at", "that", "the", "network", "output", "Tusker", "with", "49", "percent", "accuracy", "an", "indian", "elephant", "with", "thirty-four", "percent", "accuracy", "and", "there's", "a", "slight", "chance", "we're", "looking", "at", "an", "African", "elephant", "now", "I", "personally", "probably", "wouldn't", "be", "able", "to", "tell", "you", "the", "difference", "between", "these", "three", "kinds", "of", "elephants", "but", "a", "network", "this", "powerful", "is", "actually", "able", "to", "do", "it", "with", "a", "high", "degree", "of", "accuracy", "but", "we", "don't", "want", "this", "network", "to", "tell", "us", "the", "categories", "that", "it", "a", "trained", "on", "we", "want", "it", "to", "tell", "us", "our", "categories", "for", "our", "grocery", "data", "set", "so", "let's", "look", "at", "a", "way", "that", "we", "can", "actually", "do", "that", "first", "let's", "take", "our", "grocery", "data", "set", "and", "pre-process", "it", "exactly", "the", "same", "way", "that", "the", "resonant", "authors", "did", "now", "we", "can", "actually", "go", "into", "the", "resident", "model", "and", "pull", "out", "specific", "layers", "that", "we", "want", "to", "use", "in", "this", "case", "we're", "going", "to", "pull", "out", "the", "second-to-last", "lair", "which", "is", "called", "the", "average", "pool", "lair", "and", "now", "we", "can", "create", "a", "new", "model", "with", "the", "same", "input", "to", "our", "resident", "model", "but", "now", "instead", "about", "putting", "a", "thousand", "categories", "we're", "gonna", "output", "this", "last", "layer", "as", "our", "final", "category", "so", "let's", "take", "a", "look", "and", "see", "what", "this", "model", "actually", "looks", "like", "still", "a", "massive", "model", "but", "now", "instead", "of", "a", "thousand", "categories", "at", "the", "bottom", "we", "have", "a", "2048", "length", "vector", "which", "are", "going", "to", "contain", "what", "we", "hope", "to", "be", "the", "most", "important", "features", "from", "our", "data", "set", "so", "now", "we", "can", "actually", "take", "our", "pre-processed", "grocery", "data", "set", "and", "run", "it", "through", "this", "new", "model", "that", "we've", "created", "and", "actually", "extract", "the", "features", "so", "now", "we're", "going", "to", "transform", "our", "images", "into", "2048", "length", "vectors", "of", "numbers", "that", "we", "can", "use", "to", "train", "a", "new", "model", "on", "and", "we", "hope", "that", "resident", "has", "created", "features", "that", "are", "going", "to", "be", "much", "easier", "to", "learn", "from", "than", "our", "original", "image", "data", "we're", "going", "to", "do", "the", "same", "for", "our", "test", "data", "and", "then", "finally", "we", "can", "create", "a", "new", "model", "which", "is", "a", "simple", "perceptron", "again", "with", "25", "categories", "for", "our", "data", "set", "using", "the", "same", "loss", "and", "optimizer", "as", "we", "did", "earlier", "let's", "go", "ahead", "and", "fit", "it", "and", "see", "if", "we", "can", "get", "better", "accuracy", "than", "our", "first", "try", "look", "at", "that", "right", "off", "the", "bat", "we're", "getting", "into", "80%", "validation", "accuracy", "you", "might", "also", "notice", "that", "we", "have", "a", "bit", "of", "an", "over", "fitting", "problem", "but", "there", "are", "actually", "additional", "techniques", "we", "can", "use", "to", "ensure", "that", "the", "network", "generalized", "as", "well", "across", "our", "data", "set", "and", "we", "can", "fix", "this", "issue", "so", "instead", "of", "just", "extracting", "the", "features", "which", "is", "great", "because", "it", "actually", "makes", "our", "model", "train", "really", "fast", "a", "disadvantage", "is", "now", "if", "we", "actually", "deploy", "this", "model", "we're", "gonna", "have", "to", "deploy", "two", "models", "side", "by", "side", "and", "always", "put", "our", "input", "imagery", "through", "all", "of", "Brett's", "net", "and", "then", "separately", "pass", "that", "output", "into", "the", "next", "model", "caris", "makes", "it", "really", "easy", "for", "us", "to", "make", "a", "single", "model", "where", "the", "output", "of", "the", "", "model", "can", "just", "go", "directly", "into", "our", "perceptron", "so", "we", "do", "this", "here", "but", "creating", "a", "new", "model", "we", "add", "our", "resonant", "layers", "and", "our", "new", "final", "dense", "layer", "then", "we", "turn", "all", "of", "our", "layers", "to", "be", "trainable", "equals", "false", "in", "the", "ResNet", "network", "so", "when", "we're", "training", "this", "network", "we", "don't", "want", "any", "of", "the", "layers", "to", "train", "in", "ResNet", "instead", "we're", "just", "going", "to", "tune", "the", "weights", "in", "our", "final", "dense", "layer", "so", "now", "you", "can", "see", "there", "are", "23", "million", "parameters", "in", "this", "network", "but", "only", "51,000", "of", "them", "are", "trainable", "now", "if", "we", "run", "training", "you'll", "see", "that", "it", "actually", "takes", "a", "lot", "longer", "to", "train", "this", "is", "because", "every", "batch", "we're", "passing", "that", "data", "all", "the", "way", "through", "the", "rest", "net", "network", "and", "doing", "all", "of", "those", "convolutions", "and", "different", "arithmetic", "so", "it's", "taking", "much", "longer", "as", "opposed", "to", "using", "the", "cached", "output", "features", "that", "we", "had", "used", "before", "but", "the", "advantage", "of", "this", "is", "now", "you", "have", "a", "single", "model", "that", "you", "can", "use", "to", "continue", "to", "retrain", "as", "your", "data", "set", "maybe", "grows", "or", "you", "change", "different", "labels", "in", "your", "data", "set", "as", "well", "as", "it's", "much", "easier", "to", "deploy", "your", "models", "but", "you", "see", "we're", "getting", "essentially", "the", "same", "accuracy", "as", "we", "were", "getting", "by", "just", "extracting", "the", "features", "and", "then", "training", "this", "less", "layer", "alright", "so", "there's", "one", "more", "technique", "we", "can", "use", "with", "transfer", "learning", "that", "will", "actually", "give", "us", "even", "more", "accuracy", "this", "is", "known", "as", "fine-tuning", "so", "instead", "of", "just", "training", "our", "our", "layers", "that", "we", "added", "at", "the", "end", "of", "the", "network", "we", "can", "actually", "take", "a", "subset", "of", "the", "layers", "in", "the", "resonant", "network", "and", "allow", "them", "to", "Train", "as", "well", "so", "the", "reason", "behind", "this", "is", "the", "way", "these", "networks", "tend", "to", "learn", "is", "that", "the", "layers", "much", "higher", "up", "tend", "to", "extract", "much", "more", "higher", "level", "features", "things", "that", "would", "be", "shared", "common", "amongst", "all", "the", "classes", "in", "your", "dataset", "whereas", "the", "layers", "lower", "in", "the", "network", "tend", "to", "be", "much", "more", "specific", "and", "are", "looking", "at", "shapes", "different", "edges", "that", "are", "going", "to", "be", "very", "specific", "to", "your", "classes", "or", "in", "this", "case", "the", "classes", "that", "resident", "was", "trained", "on", "so", "we", "can", "actually", "take", "these", "final", "layers", "and", "fine-tune", "them", "enable", "them", "to", "change", "their", "weights", "so", "that", "they", "are", "better", "suited", "for", "our", "classes", "while", "still", "enabling", "the", "very", "generic", "layers", "at", "the", "top", "of", "the", "network", "to", "pass", "down", "the", "most", "meaningful", "information", "for", "our", "new", "classifier", "so", "to", "do", "this", "we", "actually", "set", "the", "resonate", "to", "be", "trainable", "now", "and", "we", "go", "into", "the", "network", "and", "actually", "in", "this", "case", "just", "say", "the", "final", "11", "layers", "out", "of", "the", "hundred", "or", "so", "that", "are", "in", "retina", "we're", "going", "to", "allow", "to", "Train", "whereas", "the", "the", "first", "layers", "are", "all", "not", "going", "to", "be", "trainable", "so", "one", "thing", "to", "note", "when", "you're", "fine-tuning", "is", "that", "because", "the", "weights", "have", "been", "trained", "on", "a", "very", "large", "data", "set", "and", "are", "going", "to", "be", "very", "specific", "to", "the", "the", "ResNet", "data", "set", "when", "we", "start", "to", "fine-tune", "those", "weights", "and", "move", "them", "we're", "likely", "going", "to", "want", "to", "do", "that", "much", "more", "slowly", "than", "we", "would", "in", "a", "normal", "network", "so", "this", "is", "a", "case", "where", "instead", "of", "just", "setting", "optimizer", "equal", "to", "Adam", "you", "would", "want", "to", "actually", "instantiate", "a", "new", "instance", "of", "the", "optimizer", "and", "slow", "down", "the", "learning", "rate", "so", "we", "really", "want", "to", "move", "those", "weights", "in", "the", "last", "layers", "a", "little", "by", "little", "and", "this", "can", "really", "prevent", "overfitting", "on", "our", "data", "set", "which", "can", "be", "easy", "given", "it's", "it's", "so", "small", "and", "we", "have", "so", "many", "parameters", "you", "and", "look", "at", "that", "with", "only", "a", "few", "lines", "we", "were", "able", "to", "leverage", "cutting-edge", "models", "to", "actually", "get", "72", "percent", "accuracy", "on", "our", "Freiburg", "grocery", "data", "set", "remember", "we", "started", "at", "less", "than", "1%", "accuracy", "I'd", "say", "that's", "a", "pretty", "good", "day", "at", "the", "office", "you" ]
[ "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "keras", "", "", "", "", "", "", "", "", "", "keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "adam", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "layers!", "ResNet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "ResNet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "trained", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "layer", "", "", "", "", "", "", "layer", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "last", "layer.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "accuracy.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "well.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "ResNet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "resnet", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "" ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
H4MPIWX6ftE
[ "all", "the", "examples", "that", "we", "think", "about", "when", "we", "talk", "about", "you", "know", "machine", "learning", "from", "like", "you", "know", "like", "hot", "dog", "not", "hot", "dog", "to", "like", "you", "know", "predicting", "the", "stock", "market", "-", "you", "know", "like", "understanding", "speech", "all", "these", "things", "that", "you", "really", "think", "about", "classifying", "things", "you've", "already", "seen", "right", "when", "we", "look", "at", "the", "M&S", "data", "set", "where", "we're", "talking", "about", "labeling", "numbers", "0", "through", "9", "but", "we're", "not", "talking", "about", "recognizing", "other", "digits", "that", "we've", "maybe", "never", "seen", "before", "right", "in", "the", "real", "world", "it's", "actually", "common", "that", "you", "want", "to", "classify", "something", "where", "you've", "literally", "never", "seen", "it", "and", "humans", "can", "do", "this", "really", "well", "right", "when", "I", "see", "a", "spatula", "for", "the", "first", "time", "I", "recognize", "it", "as", "a", "new", "object", "that", "it", "that", "that", "maybe", "I", "don't", "know", "the", "name", "for", "it", "but", "I", "recognize", "it", "that", "it's", "a", "thing", "and", "I", "can", "recognize", "if", "I", "see", "it", "again", "oh", "and", "that's", "that", "thing", "that", "I", "saw", "before", "so", "how", "do", "we", "make", "computers", "do", "this", "kind", "of", "classification", "and", "this", "is", "an", "example", "that's", "called", "sometimes", "one", "shot", "or", "zero", "shot", "or", "sometimes", "a", "few", "shot", "if", "you", "have", "a", "couple", "examples", "and", "it's", "really", "been", "a", "challenge", "for", "machine", "learning", "in", "general", "to", "make", "this", "work", "and", "one", "of", "the", "approaches", "that", "I", "think", "is", "really", "exciting", "that", "I", "want", "to", "talk", "about", "today", "there's", "a", "kind", "of", "reframing", "of", "the", "problem", "right", "so", "instead", "of", "looking", "at", "one", "object", "and", "saying", "what", "is", "this", "object", "and", "training", "on", "that", "what", "I", "want", "to", "do", "is", "train", "on", "pairs", "of", "objects", "where", "the", "question", "is", "are", "these", "two", "objects", "the", "same", "and", "now", "it's", "so", "cool", "about", "that", "is", "that", "if", "instead", "of", "building", "a", "classifier", "of", "one", "thing", "at", "a", "time", "I", "believe", "I", "of", "pairs", "of", "things", "I", "can", "actually", "look", "at", "something", "new", "and", "look", "at", "one", "example", "maybe", "a", "canonical", "example", "of", "that", "thing", "and", "say", "is", "it", "that", "thing", "right", "so", "my", "classifier", "can", "potentially", "generalize", "not", "just", "to", "classify", "the", "things", "that", "it's", "seen", "in", "the", "training", "data", "but", "maybe", "to", "classify", "anything", "that", "it", "might", "see", "out", "there", "and", "this", "technique", "is", "really", "generalizable", "I'm", "gonna", "do", "it", "on", "images", "but", "the", "same", "approach", "can", "be", "used", "on", "video", "it", "can", "be", "used", "on", "audio", "it", "can", "be", "using", "tons", "of", "tons", "of", "different", "examples", "so", "let's", "get", "to", "it", "all", "right", "so", "let's", "walk", "through", "an", "example", "of", "how", "we're", "gonna", "do", "this", "and", "I'm", "gonna", "do", "this", "on", "the", "emne", "Stata", "set", "at", "first", "just", "because", "it's", "a", "data", "set", "you're", "probably", "familiar", "with", "from", "previous", "videos", "and", "it's", "really", "fast", "to", "run", "experiments", "on", "so", "first", "you", "know", "we", "have", "the", "requisite", "lots", "of", "imports", "and", "then", "we're", "going", "to", "load", "the", "data", "and", "we're", "gonna", "load", "it", "exactly", "the", "same", "as", "we've", "done", "in", "previous", "videos", "where", "we", "load", "the", "data", "into", "the", "Train", "ex", "train", "as", "the", "images", "why", "Train", "is", "the", "labels", "on", "the", "train", "data", "X", "test", "is", "the", "imagism", "test", "data", "and", "then", "Y", "train", "is", "the", "labels", "for", "the", "test", "data", "and", "then", "we're", "going", "to", "normalize", "just", "like", "we've", "done", "in", "a", "lot", "of", "other", "videos", "where", "just", "divide", "the", "values", "by", "255", "so", "that", "our", "pixels", "are", "between", "0", "&", "1", "instead", "of", "being", "between", "0", "and", "255", "but", "now", "we're", "gonna", "do", "something", "new", "we're", "gonna", "call", "this", "function", "that", "I", "wrote", "called", "make", "pairs", "and", "what", "make", "pairs", "does", "is", "it", "takes", "in", "input", "data", "and", "labels", "and", "it", "makes", "a", "new", "kind", "of", "data", "set", "where", "the", "data", "set", "is", "actually", "pairs", "of", "images", "and", "here", "the", "label", "is", "actually", "one", "if", "the", "two", "images", "correspond", "to", "the", "same", "category", "of", "thing", "and", "0", "if", "they", "correspond", "to", "different", "categories", "of", "thing", "so", "I", "just", "wrote", "a", "little", "bit", "of", "code", "here", "that", "actually", "just", "randomly", "walks", "through", "digits", "and", "then", "picks", "other", "digits", "that", "match", "and", "then", "adds", "a", "label", "of", "is", "the", "same", "thing", "and", "then", "it", "finds", "two", "that", "don't", "match", "and", "adds", "a", "label", "of", "not", "the", "same", "thing", "so", "what", "comes", "out", "of", "this", "is", "a", "data", "set", "where", "half", "the", "images", "are", "same", "things", "and", "half", "the", "images", "are", "different", "things", "and", "so", "this", "function", "at", "the", "bottom", "creates", "a", "new", "variable", "called", "Paris", "train", "which", "is", "going", "to", "be", "the", "pairs", "of", "images", "and", "labels", "train", "which", "is", "going", "to", "be", "either", "a", "zero", "for", "not", "the", "same", "thing", "or", "one", "for", "the", "same", "thing", "so", "we", "can", "run", "this", "here", "we", "got", "to", "load", "the", "data", "first", "then", "we", "can", "run", "this", "guy", "and", "you", "know", "as", "usual", "I", "always", "recommend", "taking", "a", "little", "peek", "at", "the", "data", "so", "why", "don't", "we", "look", "at", "Paris", "train", "here", "for", "comma", "zero", "and", "it", "turns", "out", "that", "is", "a", "number", "four", "that's", "just", "an", "accident", "the", "fourth", "data", "set", "is", "a", "four", "and", "then", "if", "we", "look", "at", "Paris", "train", "four", "comma", "one", "that's", "actually", "a", "different", "looking", "for", "so", "we", "would", "expect", "then", "labels", "train", "four", "to", "be", "a", "one", "meaning", "that", "they're", "the", "same", "image", "so", "why", "don't", "we", "just", "print", "that", "out", "labels", "train", "four", "and", "yep", "they're", "the", "same", "image", "we", "could", "look", "at", "maybe", "the", "400th", "example", "of", "Paris", "train", "so", "here", "that's", "a", "one", "and", "then", "if", "we", "look", "at", "the", "adjacent", "one", "it's", "a", "another", "one", "a", "little", "bit", "different", "writing", "but", "the", "same", "the", "same", "thing", "so", "we've", "transformed", "our", "data", "and", "now", "what", "are", "we", "gonna", "do", "with", "it", "right", "so", "you", "know", "naively", "one", "thing", "we", "could", "do", "is", "actually", "just", "pass", "in", "each", "image", "into", "a", "separate", "dense", "network", "and", "then", "concatenate", "those", "and", "have", "a", "final", "dense", "layer", "to", "predict", "same", "image", "or", "a", "different", "image", "so", "that's", "what", "we're", "gonna", "do", "here", "so", "here", "our", "first", "sequential", "model", "is", "just", "a", "flattened", "and", "then", "a", "dense", "layer", "so", "this", "is", "just", "the", "perceptron", "that", "you", "might", "be", "used", "to", "but", "we're", "gonna", "use", "a", "reloj", "activation", "function", "because", "it's", "kind", "of", "an", "intermediate", "piece", "and", "then", "we're", "actually", "gonna", "have", "the", "exact", "same", "layer", "but", "a", "different", "set", "of", "weights", "and", "now", "here's", "a", "new", "layer", "you", "might", "not", "have", "seen", "before", "but", "super", "useful", "it's", "called", "concatenate", "so", "what", "that", "does", "is", "actually", "just", "takes", "two", "layers", "the", "outputs", "of", "two", "layers", "and", "puts", "them", "together", "into", "a", "single", "set", "of", "activations", "so", "no", "parameters", "it", "just", "combines", "the", "two", "and", "then", "the", "final", "layer", "I'm", "calling", "dense", "layer", "takes", "as", "inputs", "the", "things", "from", "the", "merge", "layer", "and", "then", "outputs", "a", "single", "number", "and", "hopefully", "that's", "going", "to", "be", "a", "one", "if", "the", "images", "are", "the", "same", "and", "is", "zero", "if", "the", "images", "are", "not", "the", "same", "so", "use", "a", "sigmoid", "activation", "function", "because", "it's", "kind", "of", "a", "binary", "classification", "and", "then", "we", "use", "the", "Charis", "functional", "definition", "to", "define", "this", "because", "actually", "not", "a", "sequential", "model", "right", "because", "we", "have", "two", "inputs", "and", "then", "we're", "combining", "them", "it's", "not", "just", "a", "simple", "sequential", "model", "we", "might", "be", "used", "to", "and", "so", "we", "use", "a", "more", "complicated", "way", "of", "defining", "it", "then", "we", "compile", "the", "model", "we", "use", "binary", "cross-entropy", "because", "we're", "doing", "a", "single", "binary", "classification", "and", "these", "are", "our", "standard", "atom", "optimizer", "and", "we're", "gonna", "output", "the", "accuracy", "so", "let's", "take", "a", "quick", "look", "at", "what", "this", "model", "looks", "like", "before", "we", "run", "it", "here", "you", "can", "see", "here", "that", "we", "have", "100,000", "parameters", "in", "our", "dense", "layer", "that", "corresponds", "to", "image", "1", "and", "100,000", "parameters", "that", "corresponds", "to", "our", "image", "2", "and", "then", "each", "of", "those", "fully", "connected", "layers", "they", "output", "128", "numbers", "we", "combine", "those", "into", "256", "numbers", "and", "then", "we", "have", "a", "single", "perceptron", "with", "256", "inputs", "and", "one", "single", "output", "at", "the", "bottom", "of", "our", "network", "so", "in", "total", "it's", "about", "200", "thousand", "parameters", "and", "we", "can", "call", "fit", "here", "and", "now", "again", "we'll", "call", "fit", "on", "actually", "pairs", "train", "0", "right", "so", "that's", "one", "of", "the", "input", "images", "pairs", "train", "1", "which", "is", "the", "other", "set", "of", "input", "images", "and", "then", "labels", "train", "which", "is", "again", "the", "binary", "number", "0", "if", "the", "images", "don't", "match", "and", "1", "if", "they", "do", "match", "so", "let's", "set", "that", "to", "say", "10", "epochs", "and", "let", "our", "model", "train", "so", "this", "architecture", "does", "work", "barely", "so", "you", "can", "see", "that", "in", "every", "step", "it", "actually", "is", "improving", "the", "accuracy", "but", "by", "about", "like", "0.5%", "and", "it's", "starting", "at", "a", "50", "percent", "accuracy", "so", "better", "than", "random", "which", "is", "better", "than", "a", "lot", "of", "the", "networks", "that", "I've", "made", "in", "my", "life", "and", "we're", "kind", "of", "onto", "something", "good", "but", "it", "seems", "pretty", "clear", "that", "we're", "gonna", "need", "to", "make", "this", "work", "better", "so", "we've", "done", "so", "far", "it", "doesn't", "work", "super", "well", "it's", "unclear", "actually", "how", "well", "it'll", "ever", "work", "it", "does", "work", "better", "than", "random", "but", "it's", "not", "working", "super", "well", "it's", "not", "typically", "what", "people", "do", "when", "they", "encounter", "the", "situation", "where", "they", "want", "to", "do", "one-shot", "learning", "what", "they", "really", "do", "is", "they", "share", "weights", "across", "the", "model", "right", "so", "sharing", "weights", "across", "layers", "is", "actually", "pretty", "common", "in", "more", "advanced", "architectures", "but", "we", "haven't", "done", "it", "yet", "so", "it's", "a", "good", "thing", "to", "know", "and", "it's", "actually", "really", "effective", "in", "this", "case", "it's", "one", "of", "the", "things", "we", "have", "to", "do", "to", "make", "this", "thing", "really", "work", "well", "and", "the", "intuition", "is", "that", "the", "model", "that", "we're", "running", "on", "the", "first", "input", "image", "and", "the", "model", "it", "running", "on", "the", "second", "input", "image", "really", "it", "seems", "like", "they", "should", "be", "the", "same", "model", "right", "because", "the", "images", "are", "drawn", "from", "the", "same", "set", "of", "overall", "images", "and", "so", "the", "transform", "that", "you", "want", "to", "do", "on", "one", "image", "seems", "like", "it", "shouldn't", "really", "be", "the", "transform", "that", "we", "do", "on", "the", "other", "image", "in", "order", "to", "do", "this", "in", "order", "to", "share", "weights", "across", "the", "model", "we", "have", "to", "actually", "use", "more", "of", "Harrises", "functional", "model", "definition", "and", "I", "think", "this", "gets", "a", "little", "confusing", "because", "when", "we", "define", "a", "layer", "in", "the", "in", "the", "functional", "definition", "we", "actually", "it", "sort", "of", "just", "sets", "up", "the", "specification", "for", "the", "layer", "and", "it", "doesn't", "actually", "really", "attach", "it", "to", "some", "input", "until", "we", "call", "a", "function", "on", "that", "layer", "once", "specified", "so", "then", "we", "set", "up", "a", "model", "right", "and", "so", "we", "actually", "say", "that", "the", "input", "is", "going", "to", "be", "this", "input", "and", "actually", "what", "the", "model", "does", "is", "going", "to", "be", "this", "flat", "and", "step", "in", "then", "the", "stent", "step", "but", "now", "we", "haven't", "actually", "attached", "this", "model", "to", "any", "input", "so", "what", "we're", "gonna", "do", "we're", "actually", "gonna", "attach", "it", "to", "two", "different", "inputs", "we're", "gonna", "attach", "it", "to", "input", "1", "and", "input", "2", "and", "so", "I", "call", "the", "model", "that's", "attached", "to", "input", "1", "dense", "1", "and", "the", "model", "attached", "to", "input", "2", "dense", "2", "so", "we", "have", "two", "separate", "models", "but", "they're", "attached", "two", "different", "inputs", "so", "we", "can", "actually", "take", "those", "and", "we", "can", "use", "that", "same", "concatenate", "layer", "that", "we", "used", "before", "to", "combine", "them", "and", "then", "we", "can", "add", "that", "same", "dense", "layer", "that", "we", "had", "before", "and", "that's", "gonna", "output", "a", "single", "number", "and", "we're", "going", "to", "use", "a", "sigmoid", "activation", "layer", "and", "that", "number", "is", "obviously", "going", "to", "be", "one", "if", "we", "think", "that", "these", "two", "images", "are", "corresponding", "the", "same", "number", "and", "zero", "if", "they're", "like", "two", "different", "numbers", "so", "we", "can", "pile", "the", "model", "in", "the", "same", "way", "we", "did", "before", "and", "then", "we", "can", "take", "a", "quick", "look", "at", "it", "and", "we", "can", "see", "that", "actually", "this", "model", "should", "have", "about", "half", "the", "number", "of", "parameters", "of", "the", "previous", "model", "because", "we're", "sharing", "those", "parameters", "right", "so", "whereas", "before", "we", "had", "kind", "of", "two", "layers", "each", "with", "a", "hundred", "thousand", "parameters", "now", "we", "only", "have", "one", "set", "of", "a", "hundred", "thousand", "parameters", "but", "it's", "it's", "actually", "two", "different", "layers", "are", "getting", "called", "but", "each", "of", "those", "shared", "parameters", "so", "we", "can", "run", "this", "model", "too", "and", "spoiler", "alert", "it", "works", "a", "little", "bit", "better", "than", "the", "last", "thing", "we", "did", "but", "not", "a", "lot", "better", "because", "there's", "actually", "one", "more", "fancy", "optimization", "that", "we", "need", "to", "add", "in", "and", "then", "we'll", "have", "kind", "of", "the", "typical", "setup", "of", "what's", "called", "the", "siamese", "Network", "which", "is", "actually", "an", "old", "concept", "you", "came", "you", "know", "it", "was", "talked", "about", "in", "the", "90s", "but", "I", "feel", "like", "it's", "had", "renewed", "interest", "in", "various", "forms", "as", "people", "have", "gotten", "more", "and", "more", "excited", "about", "deep", "learning", "and", "it's", "kind", "of", "one", "shot", "learning", "problem", "specifically", "so", "you", "knew", "from", "Charis", "import", "back-end", "as", "Kay", "and", "this", "kind", "of", "harkens", "back", "to", "the", "time", "when", "Karis", "had", "typically", "multiple", "backends", "these", "days", "really", "it's", "almost", "always", "tensorflow", "so", "I", "just", "sort", "of", "look", "at", "any", "tensorflow", "operation", "is", "something", "that", "I", "can", "run", "here", "and", "now", "I", "define", "a", "function", "where", "it", "takes", "in", "inputs", "which", "actually", "going", "to", "be", "tensor", "flow", "tensors", "and", "then", "I", "can", "call", "K", "dot", "and", "then", "any", "tensor", "flow", "of", "operation", "that", "I", "can", "find", "so", "here", "I'm", "using", "some", "and", "square", "and", "square", "root", "and", "maximum", "really", "all", "this", "is", "doing", "is", "it's", "basically", "looking", "at", "the", "sum", "of", "the", "squares", "of", "the", "differences", "between", "the", "two", "inputs", "right", "so", "it's", "kind", "of", "a", "simple", "they", "call", "Euclidean", "distance", "it's", "really", "just", "how", "different", "are", "the", "outputs", "of", "my", "two", "different", "networks", "that's", "what", "we're", "gonna", "do", "with", "it", "we're", "gonna", "feed", "in", "the", "outputs", "of", "each", "network", "and", "then", "we're", "going", "to", "compare", "them", "using", "the", "Euclidean", "distance", "so", "we", "define", "this", "nice", "little", "Euclidean", "distance", "function", "and", "then", "we", "add", "a", "new", "layer", "it's", "called", "a", "lambda", "layer", "which", "implies", "kind", "of", "a", "lambda", "function", "and", "we", "actually", "pass", "in", "our", "Euclidean", "distance", "function", "and", "so", "now", "we're", "actually", "building", "our", "own", "custom", "tensor", "flow", "operations", "as", "a", "layer", "and", "what", "this", "does", "is", "it", "basically", "lets", "the", "network", "instead", "of", "trying", "to", "figure", "out", "what", "it", "should", "do", "with", "the", "outputs", "of", "these", "two", "networks", "that", "we've", "defined", "it", "just", "knows", "that", "really", "what", "I", "want", "is", "the", "outputs", "of", "these", "two", "networks", "to", "be", "similar", "right", "so", "the", "more", "similar", "the", "outputs", "of", "my", "two", "networks", "are", "the", "more", "likely", "the", "model", "thinks", "that", "the", "two", "inputs", "are", "the", "same", "of", "course", "buying", "the", "same", "number", "so", "let's", "run", "this", "this", "network", "and", "we", "can", "compile", "it", "and", "look", "at", "it", "I'm", "just", "like", "we", "did", "before", "and", "we", "see", "that", "it's", "very", "similar", "to", "the", "previous", "model", "but", "we", "don't", "have", "that", "last", "big", "dense", "layer", "to", "figure", "things", "out", "and", "then", "when", "you", "run", "this", "network", "we", "actually", "see", "a", "market", "improvement", "right", "in", "the", "first", "epoch", "we're", "already", "seeing", "accuracy", "above", "70%", "so", "by", "taking", "out", "some", "of", "the", "complexity", "and", "again", "just", "pushing", "the", "complexity", "into", "the", "code", "we've", "actually", "made", "a", "much", "more", "effective", "siamese", "network", "so", "you", "know", "the", "real", "reason", "to", "do", "this", "is", "not", "the", "amnesty", "to", "set", "right", "I", "mean", "it", "seems", "unlikely", "that", "you'd", "want", "to", "generalize", "to", "some", "other", "digit", "that", "we", "haven't", "seen", "before", "but", "there", "actually", "are", "lots", "of", "cases", "where", "you'd", "want", "to", "do", "it", "in", "one", "case", "is", "in", "handwriting", "where", "you", "might", "see", "characters", "that", "you", "haven't", "seen", "before", "and", "a", "super", "cool", "data", "set", "to", "do", "this", "on", "that's", "that's", "really", "fun", "and", "a", "lot", "like", "chemists", "is", "the", "Omniglot", "data", "set", "so", "I'm", "actually", "left", "in", "a", "little", "bit", "of", "code", "to", "load", "in", "the", "AMA", "neglect", "data", "set", "which", "actually", "loads", "in", "lots", "and", "lots", "of", "different", "characters", "from", "lots", "and", "lots", "of", "different", "languages", "and", "so", "I", "think", "a", "fun", "next", "step", "to", "do", "would", "be", "to", "run", "this", "exact", "same", "architecture", "on", "the", "Omniglot", "data", "set", "and", "see", "if", "you", "can", "recognize", "characters", "and", "actually", "see", "if", "you", "can", "build", "a", "system", "that", "can", "recognize", "characters", "in", "one", "alphabet", "and", "generalize", "to", "other", "alphabets", "because", "that", "is", "really", "magical", "and", "powerful", "and", "really", "shows", "off", "why", "one-shot", "learning", "can", "be", "really", "effective", "and", "especially", "why", "Siamese", "networks", "work", "really", "well", "for", "this", "application" ]
[ "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "MNIST", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "is", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "what's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "MNIST", "Data", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Train,", "x", "", "is", "", "", "Y", "", "", "", "", "", "", "training", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "pairs", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "pairs", "", "", "four", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "pairs", "", "", "", "", "", "", "", "", "", "four", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Pairs", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "relu", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "adam", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras's", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "this", "dense", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "K", "", "", "", "", "", "", "", "", "", "", "Karas", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "sum", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "marked", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "mnist", "data", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "" ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 7, 0, 7, 0, 0, 7, 0, 0, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
Qf4YJcHXtcY
[ "so", "audio", "is", "a", "huge", "field", "and", "it's", "actually", "arguably", "the", "field", "that", "really", "started", "the", "interest", "in", "deep", "learning", "so", "we", "are", "just", "gonna", "scratch", "the", "very", "very", "surface", "of", "audio", "in", "this", "video", "and", "what", "I", "really", "want", "to", "show", "you", "is", "that", "we", "can", "take", "the", "exact", "same", "techniques", "that", "we", "applied", "to", "text", "and", "image", "classification", "and", "apply", "it", "to", "audio", "now", "it's", "not", "totally", "obvious", "how", "you", "do", "that", "right", "I", "mean", "like", "audio", "comes", "in", "really", "different", "format", "than", "like", "an", "image", "or", "text", "right", "basically", "typically", "we", "represent", "it", "as", "kind", "of", "like", "a", "wave", "or", "maybe", "two", "waves", "if", "you", "have", "stereo", "sound", "so", "how", "do", "we", "actually", "get", "it", "in", "a", "format", "where", "we", "can", "process", "it", "and", "what", "do", "we", "do", "with", "it", "you", "know", "audio", "files", "are", "tend", "to", "be", "big", "and", "it", "tends", "to", "be", "just", "complicated", "to", "ingest", "them", "and", "handle", "them", "so", "I'm", "gonna", "do", "a", "very", "very", "small", "classification", "example", "the", "ideas", "we", "want", "to", "classify", "people", "saying", "different", "specific", "words", "and", "we're", "gonna", "see", "how", "well", "we", "can", "do", "that", "with", "some", "really", "simple", "caris", "techniques", "so", "here's", "the", "task", "we", "want", "to", "classify", "sounds", "and", "the", "sounds", "are", "people", "speaking", "and", "we", "classify", "them", "into", "what", "the", "person", "is", "saying", "so", "I", "found", "online", "WAV", "files", "of", "various", "people", "saying", "the", "words", "bed", "happy", "and", "cat", "and", "actually", "there", "were", "a", "lot", "more", "sets", "of", "WAV", "files", "there", "so", "you", "can", "follow", "a", "link", "we'll", "put", "in", "the", "comments", "to", "download", "more", "if", "you", "want", "to", "classify", "different", "words", "and", "what", "we're", "gonna", "do", "is", "we're", "going", "to", "take", "those", "WAV", "files", "do", "some", "transformations", "on", "it", "and", "then", "run", "various", "types", "of", "neural", "nets", "to", "see", "how", "well", "they", "classify", "this", "data", "so", "you", "know", "first", "of", "all", "we", "do", "this", "standard", "sort", "of", "importing", "libraries", "like", "Kerris", "and", "actually", "a", "pre", "process", "library", "that", "I", "mostly", "copied", "from", "another", "audio", "processing", "git", "project", "and", "that's", "as", "things", "like", "transform", "the", "WAV", "files", "into", "spectrograms", "so", "the", "next", "thing", "that's", "going", "to", "happen", "is", "we", "set", "the", "number", "of", "buckets", "in", "our", "spectrogram", "and", "we", "set", "the", "length", "of", "time", "that", "we", "want", "to", "operate", "over", "and", "then", "we", "use", "a", "function", "from", "this", "pre-processing", "library", "to", "transform", "these", "wav", "files", "into", "something", "that", "looks", "more", "like", "a", "sonic", "spectrogram", "now", "you", "may", "not", "have", "seen", "a", "spectrogram", "before", "you", "can", "find", "lots", "of", "apps", "that", "do", "this", "in", "a", "spectrogram", "the", "x-axis", "is", "time", "typically", "and", "the", "y-axis", "is", "the", "frequency", "of", "sound", "and", "then", "the", "darkness", "is", "the", "amount", "of", "energy", "at", "that", "frequency", "so", "in", "music", "or", "in", "science", "you", "typically", "get", "these", "spectrograms", "that", "have", "sort", "of", "even", "intervals", "or", "logarithmic", "intervals", "between", "the", "frequencies", "but", "actually", "when", "you're", "processing", "speech", "and", "there's", "a", "slightly", "different", "transformation", "that", "people", "typically", "do", "called", "M", "FCC", "and", "so", "that's", "the", "one", "that", "I", "do", "here", "but", "you", "can", "just", "roughly", "think", "of", "it", "as", "buckets", "of", "frequencies", "and", "kind", "of", "buckets", "of", "time", "so", "we", "do", "that", "transformation", "and", "then", "we", "actually", "load", "the", "training", "and", "test", "set", "into", "the", "familiar", "X", "train", "X", "test", "Whiterun", "Y", "test", "values", "this", "is", "just", "like", "you", "know", "previous", "videos", "X", "train", "was", "off", "in", "a", "set", "of", "images", "in", "previous", "videos", "in", "this", "video", "it's", "going", "to", "be", "sets", "of", "audio", "spectrograms", "essentially", "an", "X", "test", "is", "going", "to", "be", "validation", "data", "for", "that", "Y", "train", "is", "going", "to", "be", "the", "labels", "so", "0", "corresponds", "to", "bed", "one", "corresponds", "to", "happy", "and", "two", "corresponds", "to", "cat", "and", "Y", "test", "is", "the", "same", "but", "correspond", "to", "the", "the", "test", "data", "then", "we're", "gonna", "actually", "reshape", "our", "our", "data", "a", "little", "bit", "we're", "gonna", "add", "a", "channel", "element", "and", "this", "is", "because", "typically", "with", "audio", "you're", "gonna", "have", "a", "left", "channel", "and", "right", "channel", "now", "in", "this", "case", "we've", "actually", "removed", "the", "channel", "so", "there", "really", "is", "only", "one", "channel", "but", "this", "might", "make", "the", "code", "a", "little", "more", "generalizable", "to", "typical", "audio", "files", "that", "you'll", "see", "out", "there", "in", "the", "wild", "and", "then", "you", "know", "before", "we", "do", "anything", "else", "I", "think", "it's", "nice", "to", "take", "a", "look", "at", "the", "data", "that", "we're", "dealing", "with", "with", "the", "imshow", "commands", "and", "now", "that", "works", "super", "well", "when", "we're", "dealing", "with", "images", "right", "you", "can", "actually", "look", "at", "the", "imaging", "see", "oh", "that's", "a", "number", "4", "or", "oh", "that's", "a", "picture", "of", "my", "friend's", "face", "with", "audio", "spectrograms", "it's", "a", "little", "less", "clear", "what's", "going", "on", "but", "it's", "kind", "of", "nice", "to", "look", "at", "anyway", "so", "we", "could", "you", "know", "look", "at", "the", "hundredths", "value", "of", "X", "train", "and", "we", "can", "see", "that", "it", "seems", "like", "it", "starts", "off", "a", "little", "quieter", "and", "maybe", "gets", "a", "little", "bit", "louder", "it's", "a", "it's", "a", "little", "hard", "to", "interpret", "we", "can", "also", "print", "out", "the", "corresponding", "Y", "train", "label", "and", "see", "what", "that", "what", "that", "was", "and", "it", "looks", "to", "me", "like", "it", "must", "be", "the", "zeroeth", "label", "and", "that", "would", "be", "bed", "so", "this", "is", "this", "this", "is", "some", "kind", "of", "distorted", "spectrogram", "with", "somebody", "saying", "bed", "one", "more", "thing", "before", "I", "get", "we", "have", "to", "transform", "why", "train", "and", "why", "test", "into", "one", "hot", "versions", "of", "those", "so", "we", "talk", "about", "this", "a", "lot", "in", "in", "previous", "videos", "and", "you", "can", "find", "it", "there", "but", "essentially", "going", "from", "this", "single", "number", "to", "a", "vector", "numbers", "where", "the", "one", "corresponds", "to", "the", "label", "that", "we", "want", "and", "you", "then", "you", "know", "as", "usual", "we're", "gonna", "start", "with", "kind", "of", "the", "simplest", "possible", "model", "and", "in", "that", "case", "it's", "a", "perceptron", "so", "as", "usual", "we're", "gonna", "first", "call", "flatten", "to", "kind", "of", "remove", "all", "the", "structure", "of", "our", "data", "so", "the", "buckets", "in", "the", "length", "of", "the", "channel", "are", "going", "to", "flatten", "it", "all", "that", "out", "into", "a", "single", "vector", "and", "then", "we're", "gonna", "call", "a", "dense", "layer", "on", "that", "and", "that's", "going", "to", "be", "a", "fully", "connected", "layer", "and", "within", "this", "case", "three", "different", "outputs", "one", "corresponding", "to", "each", "word", "that", "we're", "trying", "to", "classify", "and", "the", "typical", "softmax", "activation", "function", "we", "use", "when", "we're", "trying", "to", "do", "multi-class", "classification", "we're", "gonna", "use", "categorical", "cross", "entropy", "as", "usual", "and", "the", "atom", "optimizer", "and", "we're", "also", "gonna", "report", "on", "accuracy", "in", "this", "case", "all", "right", "so", "let's", "let's", "fit", "that", "model", "and", "you", "can", "see", "that", "in", "this", "case", "because", "the", "data", "sets", "reasonably", "small", "the", "model", "runs", "quite", "fast", "but", "you", "know", "you", "can", "actually", "see", "that", "this", "very", "simple", "linear", "model", "gets", "us", "around", "approximately", "80%", "accuracy", "on", "the", "the", "validation", "data", "which", "is", "not", "bad", "okay", "so", "now", "here's", "the", "really", "cool", "thing", "because", "we", "have", "our", "data", "in", "such", "a", "standard", "format", "we", "can", "actually", "pull", "from", "all", "the", "different", "types", "of", "models", "that", "we've", "built", "in", "earlier", "videos", "to", "make", "this", "model", "better", "so", "the", "first", "thing", "we", "can", "try", "and", "this", "is", "something", "that", "people", "really", "do", "we", "can", "apply", "a", "convolutional", "network", "to", "this", "now", "you", "might", "argue", "that", "maybe", "we", "should", "use", "a", "1d", "convolution", "more", "like", "text", "and", "you", "can", "try", "that", "right", "because", "maybe", "you", "know", "each", "you", "can", "think", "of", "each", "frequency", "as", "a", "separate", "channel", "but", "because", "actually", "the", "channels", "do", "have", "meaning", "or", "the", "the", "frequencies", "do", "have", "meaning", "like", "two", "frequencies", "close", "to", "each", "other", "actually", "are", "kind", "of", "semantically", "close", "I", "think", "a", "two", "deconvolution", "is", "a", "reasonable", "thing", "also", "to", "try", "so", "let's", "start", "with", "that", "and", "you", "can", "find", "in", "my", "ml", "class", "videos", "directory", "you", "can", "actually", "find", "examples", "of", "all", "these", "different", "classifiers", "so", "let's", "actually", "just", "go", "into", "CN", "n", "dot", "pi", "and", "see", "what", "happens", "when", "we", "paste", "in", "a", "standard", "kind", "of", "one", "level", "convolutional", "neural", "network", "so", "we", "can", "just", "copy", "this", "model", "code", "right", "into", "our", "notebook", "here", "and", "now", "we", "just", "have", "to", "change", "the", "input", "shape", "to", "be", "buckets", "Len", "and", "channels", "and", "we", "can", "just", "set", "this", "to", "be", "a", "3x3", "convolution", "so", "the", "dense", "layer", "size", "to", "128", "we", "can", "compile", "the", "model", "in", "the", "same", "way", "and", "then", "we", "can", "fit", "the", "model", "in", "the", "exact", "same", "way", "and", "again", "because", "it's", "such", "a", "small", "number", "of", "samples", "it", "learns", "very", "fast", "let's", "take", "a", "look", "in", "the", "app", "and", "actually", "this", "model", "is", "very", "very", "good", "right", "so", "this", "model", "gets", "over", "90%", "accuracy", "ninety-three", "ninety-four", "percent", "accuracy", "on", "our", "test", "stated", "it's", "right", "off", "the", "bat", "which", "is", "really", "cool", "we've", "actually", "taken", "the", "machinery", "that", "we've", "learned", "in", "different", "domains", "and", "applied", "it", "this", "toy", "different", "domain", "and", "the", "same", "intuition", "that", "we", "had", "that", "you", "know", "convolutions", "might", "work", "better", "actually", "turns", "out", "to", "be", "the", "case", "and", "you", "might", "think", "well", "if", "one", "convolution", "works", "well", "what", "about", "two", "convolutions", "so", "we", "can", "take", "this", "same", "thing", "that", "we", "did", "before", "and", "take", "a", "convolution", "and", "a", "pooling", "and", "then", "a", "second", "convolution", "in", "a", "pooling", "build", "this", "model", "here", "compile", "it", "and", "actually", "we", "could", "go", "into", "the", "go", "into", "a", "project", "we'd", "call", "this", "one", "perceptron", "we're", "gonna", "call", "this", "guy", "one", "convolution", "call", "this", "guy", "two", "convolutions", "you", "so", "you", "can", "see", "here", "that", "our", "two", "convolution", "model", "is", "actually", "slightly", "better", "than", "our", "one", "convolution", "model", "which", "is", "awesome", "it's", "like", "you", "know", "maybe", "a", "94%", "accuracy", "versus", "a", "93%", "accuracy", "but", "you", "know", "another", "thing", "is", "pretty", "glaring", "which", "is", "that", "this", "is", "the", "test", "accuracy", "and", "on", "the", "training", "data", "both", "the", "one", "convolution", "and", "the", "two", "convolution", "model", "have", "100%", "accuracy", "right", "so", "you", "know", "it", "seems", "like", "we", "have", "an", "issue", "with", "overfitting", "and", "again", "we", "can", "apply", "all", "the", "intuitions", "that", "we", "learned", "on", "text", "and", "image", "data", "to", "this", "problem", "right", "and", "so", "the", "the", "clear", "thing", "to", "do", "when", "you", "see", "this", "the", "first", "thing", "to", "try", "is", "to", "add", "some", "dropout", "so", "let's", "put", "a", "little", "bit", "of", "dropout", "in", "our", "model", "if", "you", "put", "it", "in", "the", "same", "place", "that", "we", "did", "before", "so", "we", "can", "see", "model", "add", "dropout", "maybe", "dropout", "1/4", "the", "stuff", "and", "drop", "it", "across", "the", "stuff", "again", "compile", "the", "model", "and", "run", "fit", "and", "you", "see", "that", "the", "two", "convolutions", "just", "drop", "out", "is", "actually", "learning", "slower", "on", "the", "training", "data", "but", "it", "actually", "kind", "of", "continues", "to", "improve", "and", "the", "same", "thing", "happens", "on", "the", "test", "data", "right", "so", "it", "starts", "off", "a", "little", "bit", "worse", "but", "as", "it", "runs", "over", "time", "it", "gets", "better", "and", "better", "and", "better", "right", "so", "this", "dropout", "actually", "allows", "the", "model", "to", "fit", "the", "data", "even", "a", "little", "bit", "better", "than", "without", "the", "dropouts", "so", "all", "the", "things", "that", "we", "expect", "all", "the", "theory", "and", "intuitions", "that", "we've", "learned", "so", "far", "they", "apply", "it", "to", "audio", "equally", "as", "well", "as", "images", "or", "that", "", "I", "just", "think", "it's", "super", "cool", "maybe", "let", "that", "run", "a", "little", "bit", "then", "there's", "one", "more", "thing", "that", "you", "can", "try", "which", "we", "did", "on", "text", "which", "is", "we", "could", "take", "L", "STM's", "or", "gr", "use", "and", "apply", "it", "to", "audio", "right", "and", "this", "might", "make", "sense", "especially", "if", "we", "had", "variable", "length", "audio", "files", "are", "much", "longer", "audio", "files", "this", "might", "make", "sense", "I", "think", "actually", "CN", "NS", "probably", "make", "a", "little", "more", "sense", "for", "these", "tiny", "files", "where", "they", "run", "well", "but", "let's", "take", "a", "peek", "and", "see", "how", "they", "do", "so", "we", "can", "copy", "the", "code", "from", "our", "LS", "TM", "video", "and", "so", "when", "we", "copy", "the", "code", "and", "you", "see", "that", "actually", "we", "get", "an", "error", "and", "it's", "a", "it's", "a", "shaper", "and", "it's", "because", "LS", "TM", "expects", "a", "two-dimensional", "but", "not", "a", "three-dimensional", "input", "and", "so", "you", "get", "the", "scary", "error", "message", "in", "this", "case", "there", "remember", "we", "actually", "added", "the", "channel", "variable", "later", "so", "we", "could", "do", "a", "more", "complicated", "reshape", "but", "I", "think", "the", "simplest", "thing", "to", "do", "is", "just", "undo", "the", "reshaping", "that", "we", "did", "before", "and", "then", "we", "can", "try", "the", "lsdm", "now", "the", "illicium", "performance", "is", "significantly", "worse", "than", "the", "convolutions", "but", "that", "might", "be", "because", "we", "had", "a", "small", "STM", "it", "also", "could", "be", "the", "fact", "that", "our", "data", "is", "actually", "not", "very", "long", "and", "I", "think", "L", "STM's", "would", "matter", "more", "as", "the", "data", "gets", "much", "longer", "so", "we", "could", "spend", "some", "time", "really", "doing", "hyper", "parameter", "tuning", "and", "maybe", "get", "this", "STM", "to", "the", "same", "accuracy", "as", "CN", "NS", "but", "I'll", "just", "say", "for", "these", "kind", "of", "short", "audio", "files", "I", "think", "you", "know", "CNN's", "are", "gonna", "be", "faster", "train", "faster", "and", "run", "faster", "and", "probably", "the", "better", "choice", "but", "if", "we", "were", "classifying", "really", "long", "conversations", "that's", "where", "Alice", "teams", "might", "really", "shine", "I", "guess", "my", "biggest", "point", "here", "and", "we", "can", "go", "deeper", "in", "subsequent", "videos", "on", "all", "types", "of", "audio", "processing", "but", "the", "the", "big", "point", "that", "I", "want", "to", "make", "is", "actually", "the", "stuff", "that", "you're", "learning", "is", "really", "transferable", "across", "domains", "I", "mean", "domain", "expertise", "has", "a", "huge", "role", "to", "play", "here", "but", "this", "stuff", "with", "CN", "NS", "is", "surprisingly", "transferable", "in", "many", "different", "areas", "and", "I", "think", "that's", "just", "super", "exciting", "so", "we'll", "do", "some", "more", "videos", "on", "audio", "well", "sue", "some", "more", "videos", "on", "more", "complicated", "architectures", "can't", "weights", "do", "you" ]
[ "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "corresponds", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "adam", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "len", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "totally", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "and", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "is", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "input", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "though", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "LSTM", "", "", "LSTMS", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "LSTM", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "LSTM", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "them!" ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7 ]
yYqAvlkRwUQ
[ "in", "this", "video", "we're", "going", "to", "introduce", "two", "new", "things", "so", "one", "of", "the", "technique", "a", "very", "awesome", "general", "technique", "called", "data", "augmentation", "and", "we're", "also", "going", "to", "introduce", "a", "new", "data", "set", "called", "CFR", "which", "is", "kind", "of", "like", "the", "next", "data", "set", "that", "everyone", "uses", "after", "M", "NIST", "it's", "slightly", "bigger", "images", "and", "it's", "color", "images", "and", "it's", "images", "of", "kind", "of", "everyday", "objects", "but", "these", "images", "are", "still", "small", "and", "it's", "still", "a", "relatively", "easy", "classification", "task", "in", "fact", "these", "days", "the", "best", "classifiers", "get", "up", "to", "99", "percent", "accuracy", "which", "is", "really", "amazing", "it's", "definitely", "better", "accuracy", "than", "I", "could", "get", "personally", "data", "augmentation", "generally", "is", "the", "practice", "of", "taking", "your", "data", "and", "modifying", "it", "so", "this", "has", "a", "lot", "of", "different", "advantages", "one", "advantage", "is", "that", "it", "helps", "the", "model", "generalize", "the", "data", "better", "right", "so", "in", "cases", "where", "you", "don't", "have", "enough", "training", "data", "you", "can", "sort", "of", "get", "more", "training", "data", "by", "taking", "the", "things", "you", "haven't", "changing", "", "a", "little", "bit", "right", "so", "you", "know", "one", "things", "you", "do", "might", "be", "like", "rotate", "your", "images", "like", "maybe", "like", "five", "degrees", "randomly", "and", "you", "know", "you", "know", "that", "like", "a", "frog", "rotated", "five", "degrees", "is", "still", "a", "frog", "or", "a", "frog", "you", "know", "flipped", "across", "like", "a", "horizontal", "axis", "I", "mean", "a", "vertical", "axis", "is", "probably", "still", "a", "frog", "right", "so", "we", "do", "all", "these", "transformations", "before", "we", "send", "the", "data", "through", "to", "get", "classified", "we", "probably", "wouldn't", "do", "this", "on", "our", "testing", "data", "but", "on", "the", "training", "data", "it's", "totally", "for", "a", "game", "and", "the", "particular", "transformations", "you", "do", "are", "really", "based", "upon", "your", "knowledge", "of", "your", "data", "set", "like", "how", "much", "can", "you", "really", "distort", "an", "image", "before", "it", "becomes", "potentially", "something", "different", "it's", "something", "to", "to", "think", "about", "an", "applied", "domain", "knowledge", "to", "also", "different", "types", "of", "images", "might", "have", "different", "appropriate", "transformations", "right", "so", "you", "know", "a", "face", "turned", "upside", "down", "might", "be", "really", "different", "it", "might", "be", "really", "you", "know", "maybe", "not", "a", "kind", "of", "face", "you", "want", "to", "classify", "but", "a", "satellite", "image", "rotate", "180", "degrees", "it's", "probably", "still", "a", "satellite", "image", "of", "the", "same", "thing", "that", "you", "might", "really", "see", "so", "aerial", "photography", "you", "can", "do", "kind", "of", "more", "rotations", "and", "more", "vertical", "flipping", "whereas", "images", "from", "an", "upright", "camera", "you", "probably", "wouldn't", "want", "to", "do", "too", "much", "rotation", "around", "the", "vertical", "axis", "because", "in", "the", "real", "3d", "world", "you", "know", "the", "vertical", "axis", "is", "something", "that", "we", "care", "about", "so", "as", "usual", "we", "start", "off", "with", "a", "whole", "bunch", "of", "imports", "especially", "the", "Charis", "library", "that", "we", "use", "extensively", "here", "and", "if", "you", "have", "any", "questions", "about", "what", "I'm", "doing", "up", "until", "the", "data", "generation", "I", "really", "recommend", "going", "back", "and", "reviewing", "previous", "videos", "on", "convolutional", "neural", "networks", "and", "maybe", "even", "the", "video", "on", "perceptrons", "and", "multi-layer", "perceptrons", "so", "first", "we", "import", "carrots", "and", "some", "other", "useful", "tools", "so", "then", "we", "set", "some", "configuration", "parameters", "and", "we", "download", "the", "Seafire", "library", "there's", "get", "two", "versions", "of", "see", "far", "there's", "see", "far", "ten", "which", "has", "ten", "classes", "and", "see", "for", "a", "hundred", "which", "is", "a", "little", "harder", "because", "it", "has", "a", "hundred", "classes", "in", "this", "case", "I've", "actually", "spelled", "out", "the", "class", "names", "for", "you", "it's", "airplane", "automobile", "bird", "cat", "deer", "dog", "frog", "horse", "ship", "and", "truck", "very", "similar", "to", "M", "NIST", "we", "set", "those", "variables", "in", "X", "train", "why", "train", "X", "test", "and", "Y", "test", "so", "you", "know", "X", "train", "is", "the", "actual", "pixels", "of", "each", "image", "that", "we're", "dealing", "with", "in", "our", "training", "set", "and", "y", "train", "is", "the", "labels", "and", "so", "on", "as", "usual", "I", "think", "it's", "smart", "to", "take", "a", "look", "at", "a", "few", "of", "the", "images", "and", "get", "a", "feel", "for", "the", "data", "that", "we're", "working", "with", "before", "we", "start", "to", "try", "to", "classify", "it", "so", "here", "I've", "plotted", "X", "train", "1", "which", "is", "probably", "the", "second", "image", "in", "our", "X", "train", "set", "and", "you", "can", "see", "that", "it's", "probably", "a", "truck", "but", "even", "it's", "kind", "of", "hard", "to", "tell", "it's", "at", "such", "low", "resolution", "that", "this", "task", "is", "fairly", "hard", "even", "for", "a", "human", "we", "can", "look", "at", "say", "X", "3", "and", "10", "and", "see", "that", "I", "think", "that's", "a", "deer", "but", "it's", "it's", "quite", "dim", "some", "of", "these", "images", "actually", "are", "our", "tricky", "next", "we", "one-hot", "encode", "our", "output", "labels", "and", "we", "normalize", "our", "images", "so", "instead", "of", "they", "come", "by", "default", "with", "their", "RGB", "values", "between", "0", "and", "255", "and", "we", "want", "to", "change", "that", "to", "be", "between", "0", "&", "1", "so", "we", "do", "that", "and", "then", "we", "set", "up", "a", "kind", "of", "standard", "small", "convolutional", "network", "in", "Karis", "so", "it's", "a", "sequential", "model", "and", "we", "use", "a", "2d", "convolution", "with", "a", "3x3", "convolution", "and", "we", "use", "the", "padding", "to", "kind", "of", "keep", "the", "size", "the", "same", "so", "we", "Pat", "out", "a", "little", "bit", "to", "make", "sure", "the", "convolution", "doesn't", "change", "the", "dimension", "and", "then", "we", "use", "the", "relu", "activation", "function", "we", "do", "the", "standard", "max", "pooling", "flatten", "things", "out", "and", "then", "have", "to", "dense", "layers", "and", "we've", "inserted", "two", "dropout", "leaders", "to", "help", "with", "overfitting", "and", "this", "is", "exactly", "networks", "that", "we", "looked", "at", "in", "the", "earlier", "convolution", "section", "on", "they", "we", "did", "an", "EM", "NIST", "the", "only", "difference", "here", "actually", "is", "that", "our", "input", "data", "is", "three", "dimensional", "instead", "of", "two", "dimensional", "because", "our", "input", "images", "are", "actually", "colored", "images", "so", "color", "here", "is", "the", "third", "dimension", "whereas", "M", "missed", "their", "black", "and", "white", "images", "so", "it's", "a", "two", "dimensional", "input", "data", "next", "we", "compile", "the", "model", "with", "the", "usual", "categorical", "cross", "entropy", "because", "we're", "doing", "a", "multi-class", "classification", "and", "the", "atom", "optimizer", "and", "then", "before", "we", "start", "getting", "crazy", "with", "the", "data", "augmentation", "let's", "just", "fit", "this", "model", "on", "the", "basic", "data", "and", "we", "can", "run", "this", "and", "you'll", "see", "that", "it", "gets", "reasonably", "good", "accuracy", "you", "can", "see", "think", "it's", "reasonably", "good", "accuracy", "the", "validation", "accuracy", "here", "is", "actually", "higher", "generally", "than", "the", "accuracy", "because", "we", "have", "dropout", "but", "it", "looks", "like", "the", "validation", "accuracy", "tops", "out", "at", "around", "60", "to", "63", "percent", "which", "is", "reasonably", "respectable", "but", "we", "only", "have", "50,000", "training", "examples", "so", "it", "does", "seem", "like", "this", "could", "benefit", "potentially", "from", "augmenting", "the", "data", "so", "let's", "do", "that", "and", "caris", "actually", "makes", "it", "quite", "easy", "to", "do", "data", "augmentation", "and", "we", "do", "this", "by", "setting", "up", "an", "image", "data", "generator", "now", "there's", "two", "reasons", "to", "use", "data", "generators", "in", "general", "so", "what", "this", "does", "is", "instead", "of", "setting", "a", "variable", "with", "all", "the", "data", "it", "has", "a", "function", "that", "will", "return", "batches", "of", "training", "data", "examples", "so", "one", "reason", "to", "use", "it", "and", "the", "reason", "we're", "using", "it", "here", "is", "because", "it", "lets", "us", "do", "modifications", "to", "the", "data", "as", "we", "pass", "it", "through", "so", "this", "data", "generator", "is", "actually", "going", "to", "take", "the", "images", "and", "it's", "going", "to", "stretch", "them", "and", "squeeze", "them", "and", "rotate", "them", "and", "that", "all", "these", "things", "it", "can", "do", "because", "it's", "doing", "a", "generator", "each", "time", "it'll", "be", "a", "little", "bit", "different", "the", "other", "thing", "that", "a", "generator", "can", "do", "is", "actually", "just", "prevent", "you", "from", "having", "to", "put", "all", "your", "images", "in", "memory", "and", "I'll", "tell", "you", "when", "you", "work", "on", "real-world", "data", "sets", "that", "becomes", "a", "big", "issue", "so", "in", "most", "production", "systems", "you", "probably", "be", "using", "a", "data", "generator", "versus", "just", "passing", "in", "gigantic", "variables", "into", "your", "fit", "function", "", "generators", "good", "to", "learn", "anyway", "but", "great", "for", "this", "example", "and", "here", "I've", "set", "with", "shift", "range", "2.1", "which", "means", "that", "it's", "going", "to", "shift", "the", "width", "of", "the", "image", "by", "up", "to", "10%", "so", "it's", "gonna", "expand", "and", "squeeze", "the", "image", "on", "by", "up", "to", "10%", "but", "it's", "cool", "to", "actually", "look", "at", "the", "carrots", "acquisition", "and", "see", "if", "there's", "any", "other", "things", "that", "we", "might", "want", "to", "try", "like", "for", "example", "we", "might", "want", "to", "do", "a", "little", "bit", "of", "rotation", "on", "the", "image", "or", "another", "thing", "that", "we", "could", "do", "is", "horizontal", "flip", "does", "that", "mean", "that", "half", "the", "time", "we", "actually", "classify", "the", "mirror", "image", "i'm", "the", "image", "of", "the", "image", "so", "why", "don't", "we", "why", "don't", "we", "also", "add", "that", "and", "now", "we", "call", "data", "and", "dot", "fit", "on", "X", "train", "and", "actually", "what", "this", "does", "is", "it", "attaches", "the", "data", "generator", "to", "the", "X", "train", "variable", "so", "at", "each", "step", "it's", "going", "to", "pull", "a", "batch", "size", "worth", "of", "images", "from", "X", "train", "but", "it's", "going", "to", "modify", "those", "images", "with", "the", "functions", "that", "we", "added", "so", "you", "know", "once", "you", "set", "up", "the", "data", "gen", "then", "we", "call", "fit", "generator", "this", "is", "a", "lot", "like", "model", "that", "fit", "but", "instead", "of", "passing", "in", "complete", "arrays", "you", "actually", "pass", "in", "a", "function", "that", "returns", "these", "arrays", "in", "batches", "right", "so", "our", "data", "gen", "here", "is", "passing", "through", "X", "train", "and", "y", "train", "in", "chunks", "of", "size", "batch", "size", "so", "we", "actually", "need", "to", "set", "batch", "size", "equals", "config", "that", "batch", "size", "in", "here", "and", "then", "I", "like", "to", "set", "the", "the", "steps", "per", "epoch", "because", "otherwise", "you", "won't", "actually", "really", "have", "epochs", "right", "because", "you", "know", "an", "epoch", "is", "typically", "when", "you've", "stepped", "through", "all", "the", "data", "but", "when", "you", "have", "a", "generator", "you're", "essentially", "generating", "infinite", "amounts", "of", "data", "right", "so", "there", "aren't", "really", "epochs", "but", "it's", "nice", "to", "have", "sort", "of", "natural", "breakpoints", "where", "you", "check", "the", "validation", "data", "and", "so", "I", "set", "steps", "for", "epoch", "typically", "equal", "to", "B", "the", "size", "of", "the", "data", "and", "that's", "extra", "InTouch", "shape", "0", "divided", "by", "config", "dot", "batch", "size", "so", "this", "means", "that", "we're", "basically", "and", "have", "the", "same", "number", "of", "steps", "for", "epoch", "as", "we", "would", "have", "had", "if", "we", "had", "just", "called", "model", "dot", "fit", "and", "so", "we", "can", "set", "epochs", "and", "validation", "data", "and", "callbacks", "in", "exactly", "the", "same", "way", "that", "we", "would", "have", "otherwise", "and", "so", "it's", "interesting", "to", "think", "before", "this", "runs", "what", "this", "is", "going", "to", "do", "to", "accuracy", "and", "validation", "accuracy", "tip", "Clee", "what", "we'll", "see", "is", "it'll", "make", "the", "accuracy", "lower", "because", "we've", "actually", "made", "the", "classification", "tasks", "harder", "right", "we've", "sort", "of", "added", "some", "random", "noise", "into", "that", "task", "but", "hopefully", "in", "order", "to", "complete", "that", "task", "it's", "gonna", "actually", "make", "the", "model", "generalize", "better", "and", "maybe", "if", "we're", "lucky", "it'll", "make", "the", "validation", "accuracy", "higher", "than", "it", "would", "have", "otherwise", "if", "you", "compare", "the", "the", "validation", "accuracy", "of", "our", "CNN", "with", "augmentation", "it's", "actually", "better", "than", "our", "vanilla", "CNN", "and", "it's", "steadily", "improving", "over", "time", "so", "we", "can", "add", "all", "kinds", "of", "things", "and", "this", "is", "a", "rich", "vein", "of", "things", "to", "try", "to", "make", "your", "model", "better", "but", "we", "can", "go", "back", "in", "and", "add", "all", "kinds", "of", "transformations", "to", "keep", "improving", "the", "generalization", "of", "our", "model", "in", "this", "data", "set", "so", "you're", "just", "backing", "up", "in", "general", "this", "kind", "of", "augmentation", "is", "different", "in", "every", "domain", "in", "text", "one", "thing", "people", "do", "is", "will", "actually", "translate", "their", "text", "into", "a", "different", "language", "using", "Google", "Translate", "and", "then", "translate", "it", "back", "into", "the", "original", "language", "which", "kind", "of", "adds", "like", "a", "little", "bit", "of", "noise", "but", "often", "keeps", "the", "same", "semantics", "and", "an", "audio", "people", "add", "you", "know", "kind", "of", "background", "sound", "effects", "or", "distort", "the", "audio", "just", "a", "little", "bit", "to", "you", "know", "kind", "of", "get", "variations", "on", "the", "audio", "so", "this", "is", "a", "really", "general", "technique", "it", "works", "really", "effectively", "and", "I", "hope", "you", "enjoyed", "this", "video" ]
[ "", "", "", "", "", "", "", "", "", "", "", "", "is", "a", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "CIFAR", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "personally.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "rotated", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "CIFAR", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Karas", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Pad", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "two", "", "", "", "", "", "", "", "layers", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "with", "MNIST", "they're", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "adam", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "width", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "documentation", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "dot", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "x_train", "dot", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "in", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "" ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
ZBVwnoVIvZk
[ "all", "right", "so", "you", "know", "you've", "got", "your", "model", "training", "and", "you", "want", "to", "make", "it", "a", "little", "bit", "better", "so", "this", "video", "is", "kind", "of", "like", "a", "sequel", "to", "the", "video", "on", "convolutional", "neural", "networks", "and", "I", "want", "to", "talk", "about", "learning", "rate", "and", "batch", "size", "and", "a", "couple", "ways", "that", "you", "can", "often", "make", "your", "models", "better", "now", "unlike", "a", "lot", "of", "other", "courses", "on", "deep", "learning", "I", "don't", "really", "start", "with", "learning", "rate", "and", "batch", "size", "and", "things", "like", "that", "because", "I", "do", "think", "beginners", "tend", "to", "spend", "way", "too", "much", "time", "kind", "of", "optimizing", "and", "tweaking", "these", "parameters", "where", "they", "don't", "really", "matter", "that", "much", "but", "they", "can", "matter", "and", "they", "can", "be", "really", "effective", "for", "making", "your", "models", "train", "faster", "or", "kind", "of", "getting", "the", "last", "piece", "of", "performance", "on", "your", "model", "so", "just", "as", "a", "quick", "refresher", "the", "learning", "rate", "is", "kind", "of", "like", "the", "size", "of", "the", "step", "that", "the", "model", "makes", "as", "its", "looking", "for", "the", "best", "possible", "weights", "so", "you", "know", "really", "low", "learning", "rate", "will", "mean", "that", "your", "model", "might", "take", "a", "really", "long", "time", "to", "find", "the", "best", "set", "of", "parameters", "and", "a", "really", "high", "learning", "rate", "might", "mean", "it's", "kind", "of", "jumping", "over", "the", "best", "possible", "place", "or", "even", "sort", "of", "jumping", "into", "regions", "where", "you", "get", "numerical", "instability", "batch", "size", "you", "might", "remember", "is", "the", "number", "of", "examples", "that", "a", "model", "looks", "at", "when", "it", "decides", "which", "direction", "to", "send", "all", "the", "weights", "so", "you", "know", "a", "really", "small", "batch", "size", "means", "that", "each", "step", "your", "models", "optimizing", "only", "say", "over", "one", "example", "or", "two", "examples", "it", "could", "add", "a", "lot", "of", "noise", "to", "your", "model", "now", "a", "really", "big", "batch", "size", "sometimes", "it", "doesn't", "have", "enough", "noise", "and", "it's", "hard", "for", "the", "model", "to", "actually", "find", "the", "best", "place", "so", "on", "one", "hand", "smaller", "batch", "sizes", "actually", "can", "ironically", "help", "your", "model", "train", "better", "by", "adding", "a", "little", "bit", "of", "noise", "into", "that", "search", "but", "maybe", "a", "bigger", "effect", "or", "another", "important", "effect", "is", "that", "a", "bigger", "batch", "size", "can", "help", "your", "model", "train", "faster", "especially", "on", "GPUs", "because", "on", "a", "GPU", "you", "can", "actually", "compute", "the", "derivative", "on", "all", "the", "batches", "all", "at", "once", "so", "sometimes", "as", "long", "as", "you", "can", "fit", "this", "batch", "into", "memory", "and", "an", "associated", "model", "into", "memory", "a", "bigger", "bigger", "batch", "size", "it", "might", "not", "actually", "slow", "down", "your", "training", "by", "much", "at", "all", "in", "fact", "that", "computation", "might", "be", "sort", "of", "atomic", "and", "the", "same", "speed", "regardless", "of", "your", "batch", "size", "now", "if", "you", "say", "your", "batch", "size", "is", "too", "big", "it", "just", "won't", "fit", "into", "memory", "your", "thing", "will", "crash", "so", "at", "that", "point", "you'll", "know", "that", "you", "need", "to", "reduce", "your", "batch", "size", "but", "one", "thing", "I", "see", "with", "a", "lot", "of", "people", "starting", "out", "is", "I", "think", "they", "tend", "to", "set", "their", "bachelor", "set", "is", "too", "small", "and", "waste", "more", "time", "in", "their", "training", "than", "they", "really", "need", "to", "so", "let's", "jump", "into", "the", "code", "and", "run", "some", "experiments", "so", "I'm", "going", "to", "do", "these", "experiments", "on", "the", "CFR", "data", "set", "that", "we've", "used", "in", "a", "previous", "class", "on", "data", "augmentation", "that", "you", "should", "probably", "take", "a", "look", "at", "if", "you", "haven't", "already", "so", "we're", "going", "to", "do", "the", "standard", "imports", "and", "then", "we're", "going", "to", "pull", "in", "the", "CFR", "ten", "data", "set", "you", "know", "these", "things", "tend", "to", "be", "different", "on", "different", "data", "sets", "but", "I", "wanted", "to", "use", "this", "data", "set", "that's", "small", "enough", "that", "we", "can", "run", "a", "lot", "of", "experience", "quickly", "but", "maybe", "not", "M", "NIST", "where", "that's", "actually", "so", "small", "that", "you", "might", "get", "unusual", "results", "so", "as", "usual", "I", "normalize", "the", "data", "and", "and", "convert", "the", "labels", "into", "one", "hot", "encoded", "versions", "of", "themselves", "and", "I'm", "going", "to", "start", "with", "a", "very", "very", "small", "i'm", "convolutional", "net", "were", "probably", "small", "as", "possible", "convolutional", "net", "ruth", "for", "just", "one", "convolution", "and", "one", "pooling", "layer", "so", "certainly", "you", "could", "make", "this", "network", "bigger", "and", "get", "better", "performance", "but", "I", "kind", "of", "want", "to", "see", "what", "happens", "as", "we", "modify", "the", "learning", "rate", "and", "the", "batch", "size", "first", "so", "the", "first", "thing", "I", "want", "to", "show", "you", "is", "what", "happens", "if", "you", "set", "the", "learning", "rate", "to", "something", "very", "small", "so", "you", "know", "by", "default", "Adam", "sets", "the", "learning", "rate", "to", "point", "zero", "zero", "one", "right", "so", "let's", "see", "what", "happens", "if", "we", "set", "it", "to", "point", "zero", "zero", "zero", "one", "okay", "so", "here", "the", "blue", "line", "is", "the", "accuracy", "of", "the", "CNN", "with", "the", "lower", "learning", "rate", "and", "the", "orange", "line", "is", "the", "accuracy", "of", "CNN", "with", "the", "default", "learning", "rate", "and", "so", "you", "can", "see", "lower", "learning", "rate", "nothing", "really", "bad", "happens", "but", "it", "learns", "slower", "and", "that", "can", "be", "really", "annoying", "when", "you're", "training", "lots", "of", "models", "right", "so", "when", "I", "see", "this", "this", "blue", "line", "it's", "it's", "consistently", "below", "the", "orange", "line", "although", "I", "think", "that'll", "probably", "catch", "up", "over", "time", "okay", "so", "suppose", "you", "look", "at", "this", "and", "you", "say", "you", "know", "what", "learning", "rate", "of", "point", "zero", "zero", "zero", "one", "that", "doesn't", "work", "as", "well", "as", "the", "default", "point", "zero", "zero", "one", "let's", "you", "know", "let's", "raise", "it", "up", "by", "a", "few", "factors", "let's", "make", "it", "say", "point", "one", "this", "would", "be", "considered", "a", "pretty", "high", "learning", "rate", "but", "you", "know", "who", "knows", "maybe", "the", "model", "will", "learn", "faster", "so", "here", "we", "call", "model", "def", "it", "and", "look", "at", "that", "we", "see", "an", "accuracy", "of", "about", "10%", "and", "it's", "not", "even", "getting", "better", "another", "real", "telltale", "sign", "is", "there", "are", "losses", "14", "now", "remember", "our", "losses", "kind", "of", "in", "log", "space", "really", "it's", "like", "log", "loss", "so", "if", "you", "see", "a", "loss", "that's", "you", "know", "above", "4", "or", "5", "you", "should", "think", "of", "that", "as", "a", "massively", "huge", "loss", "right", "I", "think", "like", "what's", "actually", "happening", "here", "is", "that", "the", "models", "returning", "like", "Nan's", "and", "infinities", "and", "and", "just", "crazy", "things", "right", "and", "so", "this", "model", "is", "never", "gonna", "get", "better", "it", "just", "sits", "at", "a", "loss", "of", "14", "and", "accuracy", "of", "10", "percent", "and", "you", "remember", "we", "have", "10", "classes", "so", "an", "accuracy", "of", "10", "percent", "is", "really", "the", "models", "just", "guessing", "right", "so", "this", "is", "what", "happens", "when", "you", "said", "learning", "rate", "too", "high", "you", "get", "in", "a", "really", "really", "bad", "place", "so", "lower", "learning", "rates", "tend", "to", "be", "safer", "than", "higher", "learning", "rates", "what", "about", "back", "size", "so", "you", "know", "our", "default", "batchat", "is", "32", "what", "happens", "if", "we", "set", "it", "to", "say", "128", "right", "so", "there's", "a", "4x", "increase", "in", "batch", "size", "if", "we", "call", "model", "that", "fit", "the", "first", "thing", "you'll", "notice", "is", "that", "it", "takes", "a", "little", "bit", "longer", "to", "start", "because", "it's", "loading", "more", "into", "memory", "but", "then", "actually", "it", "runs", "a", "lot", "faster", "and", "so", "that's", "actually", "pretty", "nice", "but", "you", "know", "if", "it", "runs", "faster", "and", "we", "sacrifice", "accuracy", "that's", "not", "very", "interesting", "and", "remember", "it's", "running", "faster", "because", "each", "step", "that", "it's", "taking", "is", "over", "bigger", "chunk", "so", "it's", "looking", "at", "the", "same", "number", "of", "training", "examples", "but", "it's", "doing", "it", "in", "larger", "chunks", "you", "all", "right", "cool", "so", "so", "here", "I", "mean", "this", "is", "a", "reason", "that", "people", "often", "use", "don't", "use", "larger", "batch", "sizes", "the", "CNN", "with", "the", "128", "batch", "size", "is", "the", "each", "step", "is", "faster", "but", "it's", "actually", "performing", "worse", "than", "the", "CNN", "with", "the", "smaller", "batch", "size", "but", "there's", "actually", "a", "subtle", "point", "there", "that", "it's", "important", "to", "know", "which", "is", "that", "as", "you", "increase", "the", "batch", "size", "you", "should", "also", "include", "increase", "the", "learning", "rate", "so", "if", "you", "multiply", "the", "batch", "size", "by", "four", "you", "should", "also", "generally", "speaking", "and", "multiply", "the", "learning", "rate", "by", "four", "so", "with", "bigger", "batches", "because", "you're", "averaging", "over", "larger", "number", "samples", "you", "can", "get", "away", "with", "higher", "learning", "rates", "than", "you", "otherwise", "could", "so", "let's", "try", "this", "128", "batch", "size", "again", "but", "with", "the", "4x", "learning", "rate", "versus", "the", "baseline", "thirty-two", "batch", "size", "you", "okay", "so", "actually", "what", "you", "see", "here", "is", "that", "when", "we", "Forex", "the", "learning", "rate", "with", "the", "larger", "batch", "size", "now", "we", "get", "the", "best", "of", "both", "worlds", "so", "we", "have", "a", "CNN", "that's", "training", "faster", "and", "it's", "training", "at", "about", "the", "same", "level", "of", "accuracy", "and", "validation", "accuracy", "as", "our", "baseline", "CNN", "so", "one", "more", "fancy", "thing", "you", "can", "do", "and", "especially", "this", "is", "really", "effective", "when", "you", "train", "over", "a", "large", "number", "of", "epochs", "is", "you", "can", "reduce", "the", "learning", "rate", "on", "plateau", "so", "the", "idea", "here", "is", "that", "once", "your", "model", "kind", "of", "gets", "stuck", "and", "can't", "find", "a", "better", "optimum", "it", "lowers", "the", "learning", "rate", "so", "it", "can", "kind", "of", "fine-tune", "in", "the", "area", "that", "it's", "in", "right", "so", "there's", "actually", "this", "is", "such", "a", "common", "technique", "that", "there's", "actually", "a", "Carus", "callback", "that", "we", "can", "just", "use", "it", "will", "do", "it", "for", "us", "it", "has", "lots", "of", "options", "but", "you", "know", "the", "defaults", "as", "usual", "are", "pretty", "sensible", "so", "we", "just", "add", "to", "our", "callbacks", "a", "callback", "reduce", "LR", "on", "plateau", "and", "now", "in", "order", "to", "get", "this", "effect", "we", "actually", "have", "to", "have", "our", "learning", "actually", "plateaus", "so", "let's", "set", "the", "epochs", "to", "say", "300", "and", "time-lapses", "a", "little", "bit", "to", "not", "make", "a", "really", "long", "video", "okay", "and", "so", "this", "model", "has", "been", "training", "for", "a", "while", "and", "you", "can", "see", "what", "happened", "is", "at", "about", "the", "35th", "epic", "it", "stopped", "improving", "and", "so", "our", "reduce", "learning", "rate", "system", "automatically", "reduced", "the", "learning", "rate", "and", "you", "can", "see", "that", "the", "accuracy", "and", "the", "validation", "accuracy", "actually", "popped", "up", "quickly", "and", "then", "petered", "out", "and", "with", "a", "lot", "of", "models", "you", "actually", "see", "that", "effect", "happen", "a", "few", "times", "each", "probably", "like", "a", "little", "bit", "smaller", "than", "the", "time", "before", "but", "it", "can", "really", "add", "some", "accuracy", "on", "the", "end", "of", "your", "model", "training", "so", "you", "know", "again", "I", "don't", "think", "learning", "rate", "is", "always", "the", "first", "thing", "to", "mess", "with", "unless", "your", "model", "is", "really", "not", "training", "you're", "having", "numerical", "issues", "generally", "the", "Charis", "defaults", "are", "pretty", "good", "and", "you", "know", "most", "people", "go", "through", "a", "phase", "I", "think", "where", "they", "spend", "too", "much", "time", "kind", "of", "changing", "the", "optimizer", "and", "you", "know", "changing", "you", "know", "momentum", "and", "things", "like", "that", "but", "it", "definitely", "does", "make", "sense", "to", "understand", "what", "learning", "rate", "and", "batch", "size", "are", "and", "spend", "a", "little", "time", "tweaking", "them", "and", "I", "think", "doing", "this", "kind", "of", "reduced", "learning", "rate", "on", "plateau", "system", "is", "generally", "best", "practice", "for", "long", "running", "long", "training", "models", "Thanks" ]
[ "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "CIFAR", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "CIFAR", "10", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "first.", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "batch", "size?", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "dot", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "4x", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "epoch", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Keras", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "" ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 5, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 5, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 7, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
KP5PhuwYahI
[ "there", "isn't", "one", "definition", "of", "fairness", "right", "uh", "if", "you", "look", "at", "philosophy", "whether", "it's", "like", "moral", "or", "political", "philosophy", "or", "you", "look", "at", "the", "law", "or", "even", "you", "look", "at", "like", "the", "vibrant", "community", "in", "the", "computer", "science", "community", "and", "machine", "learning", "right", "who's", "thinking", "about", "algorithmic", "bias", "one", "common", "pattern", "is", "that", "you", "have", "multiple", "definitions", "of", "fairness", "that", "are", "mutually", "incompatible", "so", "you", "have", "to", "pick", "one", "you're", "listening", "to", "gradient", "descent", "a", "show", "where", "we", "learn", "about", "making", "machine", "learning", "models", "work", "in", "the", "real", "world", "i'm", "your", "host", "lucas", "bewall", "joaquin", "candela", "is", "the", "tech", "lead", "for", "responsible", "ai", "at", "facebook", "prior", "to", "that", "he", "built", "the", "applied", "machine", "learning", "team", "which", "powers", "all", "production", "applications", "of", "ai", "across", "all", "of", "facebook's", "products", "before", "that", "joaquin", "taught", "at", "university", "of", "cambridge", "and", "worked", "at", "microsoft", "research", "today", "i'm", "going", "to", "talk", "to", "him", "about", "fairness", "and", "algorithmic", "bias", "scaling", "and", "democratizing", "ai", "at", "facebook", "you", "were", "running", "the", "applied", "machine", "learning", "team", "at", "facebook", "right", "during", "a", "time", "when", "there", "was", "tons", "of", "machine", "learning", "innovation", "going", "on", "i'd", "love", "to", "hear", "um", "what", "was", "happening", "when", "you", "started", "working", "on", "that", "and", "kind", "of", "what", "tooling", "was", "necessary", "and", "how", "that", "kind", "of", "changed", "over", "the", "time", "that", "you", "were", "working", "on", "that", "i", "think", "the", "context", "is", "very", "important", "here", "so", "i", "i", "joined", "facebook", "in", "mid", "2012.", "there", "wasn't", "a", "lot", "of", "uh", "ml", "people", "in", "the", "company", "and", "if", "you", "think", "about", "the", "two", "biggest", "applications", "it", "was", "a", "news", "feed", "ranking", "on", "the", "one", "hand", "and", "then", "ads", "ranking", "right", "so", "two", "two", "ranking", "problems", "so", "as", "far", "as", "the", "models", "uh", "you", "know", "were", "concerned", "you", "mostly", "had", "binary", "classifiers", "that", "were", "used", "as", "inputs", "into", "a", "ranking", "function", "right", "so", "you", "know", "if", "you", "think", "about", "nuclear", "ranking", "you", "would", "have", "oh", "so", "my", "my", "value", "function", "is", "some", "combination", "of", "you", "know", "i", "give", "every", "click", "a", "certain", "score", "i", "give", "every", "comment", "a", "score", "i", "give", "every", "you", "know", "share", "a", "score", "etc", "right", "and", "then", "with", "that", "i", "built", "myself", "like", "a", "value", "a", "value", "function", "and", "so", "i", "have", "all", "these", "binary", "classifiers", "right", "that", "predict", "the", "probability", "that", "someone", "will", "you", "know", "click", "share", "or", "comment", "or", "whatever", "before", "i", "show", "them", "something", "right", "and", "then", "i", "can", "use", "that", "", "sort", "of", "like", "rank", "content", "and", "for", "that's", "a", "similar", "thing", "writing", "ads", "back", "in", "in", "the", "prehistorical", "times", "click", "based", "advertising", "was", "like", "the", "big", "big", "big", "thing", "right", "uh", "maybe", "like", "i", "don't", "even", "remember", "now", "like", "15", "years", "ago", "20", "years", "ago", "whenever", "and", "then", "you", "know", "that", "you", "had", "conversions", "right", "and", "then", "there's", "like", "more", "subtle", "things", "where", "you", "have", "like", "brand", "and", "then", "not", "all", "conversions", "are", "created", "equal", "and", "then", "the", "other", "thing", "that", "happens", "of", "course", "is", "that", "the", "the", "complexity", "of", "the", "content", "evolves", "right", "like", "like", "if", "you", "think", "about", "when", "i", "joined", "facebook", "a", "lot", "of", "a", "lot", "of", "the", "content", "was", "mostly", "text", "right", "uh", "images", "of", "course", "there", "fewer", "videos", "and", "now", "that", "sort", "of", "becomes", "more", "complex", "", "you", "have", "more", "multi-modality", "so", "i", "joined", "facebook", "at", "a", "time", "where", "you", "know", "the", "company", "was", "just", "uh", "ipoint", "and", "revenue", "was", "flat", "and", "so", "there", "was", "a", "huge", "pressure", "to", "try", "and", "move", "the", "needle", "in", "", "ads", "i", "joined", "the", "ads", "team", "and", "one", "of", "the", "big", "levers", "to", "move", "to", "move", "revenue", "was", "like", "oh", "can", "we", "get", "better", "at", "predicting", "you", "know", "clicks", "and", "conversions", "on", "ads", "right", "at", "the", "same", "time", "you", "start", "to", "have", "you", "know", "we", "start", "to", "move", "away", "from", "uh", "only", "serving", "ads", "on", "web", "on", "the", "right", "hand", "column", "to", "actually", "also", "serving", "ads", "you", "know", "on", "on", "mobile", "and", "then", "actually", "end", "of", "2012", "when", "i", "joined", "if", "you", "look", "at", "like", "where", "people", "were", "accessing", "facebook", "from", "like", "web", "was", "kind", "of", "slowly", "declining", "or", "being", "stable", "and", "then", "mobile", "was", "like", "rocketing", "i", "think", "they", "crossed", "sort", "of", "at", "around", "the", "end", "of", "2012", "right", "so", "you're", "like", "the", "types", "of", "surfaces", "you", "have", "the", "types", "of", "things", "you're", "predicting", "starts", "to", "increase", "and", "so", "you", "know", "the", "first", "dilemma", "that", "i", "that", "i", "had", "was", "like", "oh", "i", "looked", "at", "what", "were", "we", "doing", "right", "and", "we", "were", "you", "know", "we", "were", "using", "um", "we", "were", "using", "the", "soyuz", "in", "a", "way", "you", "know", "like", "like", "to", "go", "to", "the", "space", "station", "nothing", "fancy", "just", "like", "the", "good", "old", "so", "use", "right", "uh", "we", "were", "using", "um", "uh", "gradient", "boosted", "decision", "trees", "as", "feature", "transformers", "uh", "mostly", "you", "could", "think", "about", "it", "that", "way", "and", "then", "we", "were", "using", "uh", "online", "uh", "logistic", "regression", "you", "know", "uh", "sort", "of", "after", "that", "like", "cascaded", "with", "it", "right", "so", "what", "would", "you", "sorry", "to", "interrupt", "but", "what", "then", "would", "you", "train", "the", "intermediate", "gradient", "boosted", "tree", "on", "what", "would", "be", "the", "kind", "of", "thing", "that", "that", "would", "try", "to", "predict", "you'd", "still", "train", "them", "on", "on", "the", "event", "on", "the", "binary", "event", "that", "you're", "trying", "to", "predict", "right", "like", "like", "clicks", "or", "conversions", "or", "or", "whatever", "but", "obviously", "you", "you'd", "benefit", "from", "the", "uh", "from", "the", "robustness", "that", "that", "that", "gives", "you", "right", "like", "you", "don't", "have", "to", "worry", "too", "much", "about", "like", "scaling", "and", "translation", "and", "whatever", "of", "your", "but", "then", "you", "would", "you", "would", "feed", "them", "into", "a", "simpler", "model", "so", "however", "yeah", "what", "what", "you", "would", "then", "use", "is", "um", "the", "trees", "themselves", "every", "tree", "as", "a", "as", "a", "categorical", "feature", "as", "it", "were", "and", "and", "so", "then", "your", "logistic", "regression", "model", "which", "which", "would", "be", "training", "online", "has", "a", "bunch", "of", "inputs", "that", "are", "categorical", "which", "are", "like", "the", "the", "output", "such", "each", "of", "the", "trees", "right", "so", "it's", "basically", "like", "relearning", "kind", "of", "relearning", "the", "weights", "as", "associated", "with", "this", "leaf", "oh", "interesting", "wow", "i", "have", "not", "heard", "of", "that", "so", "the", "the", "thing", "that's", "changing", "then", "is", "the", "sort", "of", "the", "combination", "of", "the", "two", "you", "train", "a", "gradient", "boosted", "tree", "then", "you", "pull", "the", "trees", "apart", "and", "then", "you", "relearn", "the", "the", "weights", "of", "each", "tree", "yeah", "and", "the", "combination", "yeah", "it's", "it's", "a", "it's", "a", "hack", "right", "like", "it's", "not", "a", "fully", "backpropagated", "model", "right", "because", "because", "you", "train", "your", "trees", "every", "few", "weeks", "you", "know", "like", "whenever", "you", "know", "um", "and", "then", "and", "then", "you", "have", "logistic", "regression", "that", "you", "know", "um", "takes", "as", "inputs", "both", "you", "know", "like", "the", "the", "binary", "indicators", "right", "like", "every", "one", "of", "the", "trees", "you", "train", "like", "hundreds", "maybe", "a", "couple", "of", "thousand", "you", "know", "trees", "so", "you", "have", "like", "and", "each", "other", "trees", "has", "like", "a", "dozen", "leaves", "or", "like", "whatever", "and", "so", "and", "you", "treat", "those", "as", "like", "uh", "you", "know", "one", "out", "of", "12", "kind", "of", "like", "encoding", "but", "then", "you're", "learning", "a", "weight", "for", "each", "of", "those", "and", "you're", "kind", "of", "like", "learning", "that's", "like", "in", "real", "time", "and", "then", "you", "have", "other", "other", "uh", "features", "that", "you", "know", "that", "go", "in", "side", "by", "side", "that", "can", "actually", "be", "sort", "of", "continuous", "features", "as", "well", "cool", "so", "that's", "the", "setup", "that's", "what", "i", "found", "when", "i", "got", "there", "and", "so", "the", "the", "key", "decision", "since", "you", "wanted", "to", "talk", "about", "like", "building", "up", "lighting", "l", "and", "all", "that", "was", "the", "dilemma", "was", "the", "following", "it", "was", "like", "okay", "well", "this", "thing", "is", "begging", "you", "know", "for", "a", "proper", "neural", "net", "right", "to", "to", "to", "be", "thrown", "at", "it", "right", "like", "it's", "almost", "like", "we've", "handcrafted", "a", "frankenstein", "you", "know", "type", "of", "neural", "net", "by", "by", "having", "you", "know", "like", "these", "trees", "you", "know", "with", "logistic", "regression", "concatenated", "to", "it", "but", "like", "we're", "not", "even", "like", "training", "it", "together", "right", "like", "we", "we", "first", "train", "the", "trees", "and", "we", "kind", "of", "chop", "the", "output", "and", "then", "we", "kind", "of", "plug", "this", "other", "thing", "to", "it", "and", "then", "that's", "the", "thing", "that", "we", "train", "so", "it", "was", "very", "obvious", "that", "doing", "that", "you", "know", "would", "probably", "uh", "give", "us", "uh", "gains", "this", "is", "a", "two", "thing", "this", "is", "actually", "it's", "a", "20", "2012", "is", "obvious", "that", "a", "neural", "net", "would", "would", "give", "you", "an", "improvement", "i'm", "trying", "to", "remember", "sort", "of", "was", "that", "obvious", "to", "everyone", "no", "no", "because", "if", "you", "think", "about", "the", "i", "think", "it", "was", "a", "rus", "ru", "sala", "cudinov", "and", "jeff", "hinton", "and", "i", "might", "be", "forgetting", "some", "co-authors", "so", "i", "deeply", "apologize", "because", "i've", "had", "a", "long", "day", "already", "um", "apologies", "but", "this", "was", "like", "the", "big", "image", "net", "paper", "right", "was", "with", "convenience", "was", "i", "think", "from", "2012", "if", "i'm", "not", "mistaken", "that", "sounds", "right", "yeah", "yeah", "so", "i", "don't", "think", "i", "don't", "think", "it", "was", "clear", "i", "think", "this", "is", "like", "the", "the", "beginning", "of", "the", "hockey", "stick", "you", "know", "but", "i", "think", "it", "wasn't", "clear", "if", "that", "had", "been", "like", "two", "years", "later", "then", "it", "would", "have", "been", "obvious", "right", "right", "right", "at", "the", "time", "it", "wasn't", "clear", "yet", "and", "you", "know", "you", "always", "need", "a", "couple", "of", "months", "you", "know", "to", "realize", "that", "something", "happened", "so", "yeah", "the", "the", "thing", "that", "i", "that", "really", "struck", "me", "was", "that", "the", "the", "time", "it", "took", "from", "doing", "an", "experiment", "which", "a", "lot", "of", "it", "was", "really", "like", "feature", "engineering", "maybe", "there", "were", "some", "experiments", "with", "tuning", "you", "know", "you're", "learning", "ratios", "and", "turn", "and", "tuning", "like", "the", "architecture", "of", "your", "trees", "and", "the", "architecture", "of", "your", "i", "mean", "logistic", "regression", "though", "there", "isn't", "a", "lot", "of", "architecture", "to", "be", "tuned", "um", "with", "your", "logistic", "regression", "like", "the", "the", "time", "to", "go", "from", "someone", "has", "an", "idea", "and", "starts", "to", "do", "some", "offline", "experiments", "to", "you", "actually", "have", "a", "your", "your", "new", "click", "prediction", "or", "conversion", "prediction", "model", "for", "you", "know", "mobile", "or", "whatever", "in", "production", "right", "and", "actually", "like", "materializing", "those", "gains", "would", "be", "several", "weeks", "it'll", "be", "like", "sometimes", "six", "weeks", "sometimes", "two", "months", "and", "i", "thought", "holy", "crap", "that's", "not", "that's", "not", "great", "right", "and", "so", "the", "crossroads", "in", "a", "way", "you", "know", "on", "the", "one", "hand", "you're", "like", "okay", "this", "thing", "i", "have", "is", "is", "simple", "but", "we're", "still", "getting", "a", "lot", "of", "gains", "by", "tuning", "it", "right", "and", "on", "the", "other", "hand", "i", "can", "go", "and", "just", "like", "replace", "my", "soyuz", "with", "something", "like", "sophisticated", "right", "so", "that", "was", "like", "the", "that", "was", "like", "the", "the", "crossroads", "um", "that", "i", "so", "do", "you", "do", "you", "want", "to", "know", "what", "i", "decided", "to", "do", "tell", "me", "yes", "i", "feel", "like", "you're", "kind", "of", "picking", "on", "this", "little", "use", "i", "don't", "i", "didn't", "know", "that", "was", "the", "metaphor", "for", "oh", "symmetry", "thing", "uh", "it's", "true", "that", "the", "so", "use", "well", "i", "mean", "i", "think", "the", "series", "is", "rudimentary", "in", "the", "sense", "that", "like", "the", "the", "the", "computer", "systems", "that", "the", "soyuz", "has", "in", "it", "are", "probably", "50", "years", "old", "or", "like", "i", "don't", "know", "something", "like", "that", "right", "right", "but", "they", "work", "right", "so", "so", "the", "reason", "i", "use", "this", "to", "use", "analogy", "is", "more", "like", "it", "gets", "the", "job", "done", "you", "know", "it's", "like", "you", "know", "it's", "a", "gradient", "boosted", "decision", "tree", "and", "logistic", "regression", "right", "it's", "like", "it's", "just", "as", "an", "aside", "one", "thing", "that", "triggers", "me", "these", "days", "a", "little", "bit", "is", "i", "see", "people", "you", "know", "jump", "straight", "you", "know", "if", "they", "have", "to", "solve", "an", "nlp", "task", "they'll", "use", "either", "some", "sort", "of", "a", "sequence", "model", "they're", "using", "lstm", "they'll", "use", "uh", "what", "i", "mean", "i", "guess", "is", "this", "a", "transformer", "or", "like", "whatever", "and", "it's", "like", "and", "sometimes", "you", "go", "like", "did", "you", "try", "like", "a", "max", "ant", "model", "did", "you", "try", "like", "a", "like", "a", "good", "old", "you", "know", "bag", "of", "words", "with", "logistic", "regression", "and", "the", "surprising", "thing", "is", "that", "i", "would", "say", "between", "20", "and", "50", "of", "the", "time", "you", "get", "the", "same", "results", "and", "and", "then", "you're", "like", "did", "you", "realize", "how", "much", "cheaper", "this", "thing", "is", "right", "in", "terms", "of", "anything", "you", "care", "about", "right", "whether", "it's", "like", "training", "time", "you", "know", "inference", "time", "whatever", "right", "so", "yeah", "so", "so", "basically", "the", "big", "bet", "there", "was", "to", "say", "well", "what", "", "we", "need", "to", "do", "here", "is", "we", "need", "to", "actually", "um", "allow", "our", "teams", "to", "uh", "to", "ship", "every", "week", "and", "there", "was", "like", "the", "the", "big", "model", "it", "was", "like", "ship", "every", "week", "do", "whatever", "it", "takes", "so", "that", "every", "week", "we", "can", "ship", "new", "models", "to", "production", "and", "what", "that", "meant", "was", "like", "oh", "we", "need", "to", "dramatically", "accelerate", "um", "you", "know", "that", "path", "from", "i", "have", "a", "new", "model", "that", "i", "could", "put", "in", "production", "to", "like", "it's", "in", "production", "and", "that", "and", "that", "kind", "of", "like", "triggered", "", "five", "years", "of", "work", "and", "so", "what", "were", "the", "keys", "i", "mean", "tell", "me", "the", "pieces", "that", "you", "needed", "to", "build", "in", "order", "to", "allow", "that", "to", "happen", "because", "i'm", "sure", "a", "lot", "of", "people", "listening", "to", "this", "are", "thinking", "i'd", "like", "to", "ship", "a", "model", "every", "week", "what", "do", "you", "need", "in", "order", "to", "do", "that", "safely", "it", "was", "many", "things", "at", "different", "at", "different", "levels", "so", "at", "a", "very", "low", "level", "it's", "about", "fitting", "in", "you", "know", "seamlessly", "in", "like", "whatever", "infrastructure", "you", "have", "for", "for", "inference", "right", "and", "adopting", "some", "sort", "of", "like", "standards", "which", "seems", "super", "easy", "and", "trivial", "but", "even", "that", "you", "shouldn't", "take", "for", "granted", "the", "the", "part", "that", "i", "thought", "was", "even", "more", "interesting", "is", "that", "i", "think", "what", "was", "slowing", "people", "down", "was", "probably", "two", "or", "three", "things", "one", "was", "it", "was", "extremely", "difficult", "to", "share", "work", "between", "people", "because", "people", "would", "be", "running", "experiments", "in", "their", "own", "dev", "servers", "and", "even", "like", "having", "you", "know", "like", "as", "we", "all", "know", "like", "configs", "aren't", "or", "back", "then", "weren't", "sort", "of", "easily", "portable", "like", "it", "would", "just", "take", "you", "you", "know", "i", "don't", "know", "like", "a", "couple", "of", "hours", "or", "like", "you", "know", "whatever", "you'd", "have", "like", "an", "energy", "barrier", "before", "i", "could", "actually", "play", "with", "what", "you", "had", "done", "right", "the", "second", "thing", "which", "i", "think", "is", "related", "is", "that", "you", "started", "to", "have", "a", "lot", "of", "teams", "reinventing", "the", "wheel", "so", "a", "lot", "of", "the", "work", "that", "was", "being", "done", "was", "actually", "duplicate", "um", "because", "as", "a", "number", "of", "surfaces", "on", "which", "we", "we", "showed", "you", "know", "ads", "sort", "of", "kept", "increasing", "and", "the", "types", "of", "modalities", "kept", "increasing", "you", "kind", "of", "had", "like", "teams", "that", "focused", "on", "like", "one", "of", "those", "voxels", "in", "your", "in", "your", "you", "know", "tensor", "of", "of", "of", "of", "configurations", "and", "they", "wouldn't", "obviously", "talk", "to", "each", "other", "or", "like", "the", "work", "wouldn't", "be", "discoverable", "right", "so", "thing", "number", "one", "was", "like", "automate", "everything", "you", "have", "to", "automate", "everything", "you", "have", "to", "make", "it", "ridiculously", "easy", "and", "you", "have", "to", "abstract", "you", "know", "everything", "from", "the", "engineering", "trying", "to", "deploy", "something", "right", "especially", "because", "we're", "growing", "very", "fast", "and", "you", "get", "a", "lot", "of", "people", "who", "are", "joining", "the", "company", "fresh", "from", "from", "from", "somewhere", "maybe", "they", "are", "good", "applied", "researchers", "but", "they're", "not", "infra", "people", "necessarily", "so", "abstracting", "and", "automating", "you", "know", "super", "important", "the", "second", "shareability", "right", "like", "make", "sure", "that", "you", "abstract", "and", "encapsulate", "things", "in", "a", "way", "where", "they're", "like", "super", "easy", "to", "share", "so", "i", "can", "see", "what", "input", "features", "are", "working", "for", "you", "you", "know", "if", "you're", "working", "on", "like", "conversion", "prediction", "models", "for", "in-game", "ads", "or", "like", "whatever", "you", "know", "i", "can", "super", "easily", "see", "that", "obviously", "you", "have", "infra", "work", "again", "right", "like", "because", "you", "know", "the", "way", "we", "we", "store", "and", "represent", "data", "is", "very", "heterogeneous", "so", "there's", "like", "it's", "a", "pain", "in", "the", "butt", "usually", "to", "even", "if", "you're", "only", "looking", "at", "like", "reproducing", "training", "you", "know", "depending", "on", "like", "what", "your", "setup", "is", "that's", "like", "work", "but", "then", "going", "you", "know", "obviously", "the", "way", "you", "run", "your", "data", "pipelines", "when", "you're", "training", "offline", "versus", "when", "you're", "trying", "to", "serve", "in", "real", "time", "you", "know", "is", "is", "different", "almost", "always", "and", "and", "obviously", "you", "know", "when", "when", "you're", "online", "you're", "on", "a", "budget", "so", "you", "want", "to", "make", "as", "few", "calls", "as", "possible", "when", "you're", "serving", "so", "you", "gotta", "you", "gotta", "sort", "of", "figure", "out", "how", "to", "abstract", "those", "things", "and", "again", "like", "hide", "all", "complexity", "and", "then", "the", "third", "one", "which", "i", "think", "is", "really", "really", "interesting", "is", "really", "like", "think", "about", "collaboration", "by", "design", "right", "like", "how", "can", "you", "build", "an", "environment", "where", "i", "go", "in", "and", "i", "can", "see", "every", "single", "experiment", "anyone", "has", "run", "and", "i", "can", "go", "and", "by", "clicking", "i", "can", "see", "first", "of", "all", "who", "they", "are", "who", "they", "are", "is", "huge", "right", "because", "then", "i", "know", "who", "to", "ask", "especially", "if", "i'm", "new", "to", "the", "company", "and", "you", "have", "a", "company", "that's", "growing", "fast", "right", "so", "the", "the", "equivalent", "of", "your", "git", "blame", "or", "or", "whatever", "is", "super", "important", "that", "you", "need", "to", "know", "who", "people", "are", "the", "second", "one", "again", "is", "like", "so", "much", "is", "um", "wasted", "in", "terms", "of", "replicating", "experiments", "that", "someone", "has", "already", "done", "so", "like", "book", "keeping", "you", "know", "is", "extremely", "important", "and", "then", "the", "ability", "to", "just", "like", "beg", "borrow", "and", "steal", "you", "know", "bits", "of", "pieces", "either", "of", "like", "feature", "competitions", "or", "like", "like", "models", "you", "know", "we", "were", "like", "exposing", "learning", "curves", "and", "things", "like", "that", "as", "well", "so", "you", "can", "actually", "sort", "of", "browse", "them", "and", "and", "then", "another", "component", "and", "i'm", "not", "being", "super", "organized", "here", "i", "think", "i've", "said", "it's", "three", "things", "and", "i", "might", "like", "the", "fifth", "thing", "already", "but", "like", "another", "one", "is", "like", "try", "to", "be", "as", "modular", "you", "know", "as", "possible", "right", "and", "and", "if", "possible", "as", "well", "like", "language", "agnostic", "and", "separate", "out", "you", "know", "separate", "out", "like", "the", "language", "uh", "or", "the", "you", "know", "platform", "that", "you're", "using", "to", "kind", "of", "specify", "whatever", "models", "you're", "building", "from", "the", "the", "definition", "of", "a", "workflow", "and", "the", "execution", "of", "our", "workflow", "so", "really", "really", "abstracting", "that", "away", "right", "and", "sort", "of", "thinking", "about", "okay", "an", "ml", "workflow", "is", "", "an", "ml", "workflow", "and", "i", "don't", "care", "you", "know", "if", "you're", "specifying", "your", "models", "in", "matlab", "octave", "python", "by", "torch", "you", "know", "tensorflow", "like", "whatever", "it", "is", "that", "you're", "doing", "a", "lot", "of", "the", "bread", "and", "butter", "that", "you're", "doing", "is", "kind", "of", "common", "right", "so", "really", "layer", "it", "modularize", "it", "um", "was", "was", "sort", "of", "huge", "you", "know", "it's", "interesting", "i", "feel", "like", "the", "things", "that", "you're", "saying", "are", "the", "things", "that", "all", "ml", "leaders", "want", "that", "i", "talk", "to", "but", "i", "think", "", "the", "place", "that", "they", "get", "tripped", "up", "i", "mean", "all", "the", "benefits", "that", "you're", "saying", "totally", "makes", "sense", "but", "i", "think", "the", "sort", "of", "downside", "is", "that", "it", "requires", "getting", "everyone's", "buy-in", "into", "kind", "of", "a", "standard", "way", "of", "doing", "things", "and", "i'm", "curious", "how", "you", "got", "that", "because", "you", "know", "ml", "practitioners", "are", "so", "hard", "to", "hire", "and", "they're", "often", "opinionated", "and", "working", "different", "parts", "of", "the", "org", "how", "did", "you", "get", "them", "all", "to", "buy", "into", "the", "same", "of", "an", "opinion", "you", "often", "open", "opinionated", "you", "say", "[Laughter]", "i", "would", "like", "to", "meet", "one", "that", "is", "not", "opinionated", "um", "sometimes", "not", "opinionated", "um", "yeah", "it's", "tricky", "right", "and", "this", "is", "actually", "so", "you're", "you're", "putting", "the", "finger", "on", "on", "a", "on", "an", "amazing", "point", "which", "is", "really", "uh", "uh", "almost", "like", "a", "change", "management", "right", "uh", "very", "very", "hard", "several", "reasons", "why", "it's", "hard", "you", "know", "reason", "number", "one", "in", "any", "in", "any", "fast-moving", "company", "where", "you", "have", "low-hanging", "fruit", "i", "mean", "this", "is", "not", "unique", "to", "a", "male", "right", "who's", "gonna", "actually", "pause", "and", "do", "and", "clean", "up", "the", "kitchen", "right", "and", "and", "like", "pay", "back", "some", "tech", "depth", "or", "or", "like", "build", "interest", "or", "you", "move", "faster", "it's", "like", "you're", "almost", "like", "hey", "why", "don't", "you", "do", "it", "you", "know", "like", "i", "i", "don't", "feel", "like", "doing", "it", "myself", "right", "um", "so", "that's", "like", "one", "one", "uh", "challenge", "the", "other", "one", "of", "course", "is", "a", "is", "a", "sense", "of", "of", "pride", "that", "people", "have", "right", "i", "mean", "and", "especially", "you", "know", "i", "used", "to", "be", "in", "academia", "and", "in", "academia", "the", "thing", "that", "determines", "your", "worth", "is", "almost", "like", "uh", "the", "praise", "you", "get", "for", "the", "work", "that", "you", "do", "but", "you", "put", "your", "name", "on", "your", "papers", "right", "so", "culturally", "culturally", "it's", "tricky", "right", "to", "sort", "of", "say", "and", "i'm", "going", "to", "surrender", "some", "of", "that", "right", "for", "the", "greater", "good", "so", "the", "the", "tactic", "that", "we", "took", "one", "of", "them", "was", "just", "to", "", "be", "ridiculously", "laser", "focused", "so", "look", "the", "one", "thing", "that", "i", "should", "have", "clarified", "is", "i", "never", "dreamt", "that", "one", "day", "i", "would", "build", "the", "applied", "machine", "learning", "team", "at", "facebook", "that", "was", "not", "the", "intent", "you", "know", "like", "i", "was", "in", "ads", "we", "were", "focusing", "ads", "but", "even", "within", "ads", "we", "already", "started", "to", "have", "several", "teams", "working", "on", "several", "aspects", "of", "the", "problem", "so", "at", "least", "i", "you", "know", "we", "worked", "on", "generating", "alignment", "and", "a", "vision", "within", "ads", "and", "that", "was", "not", "like", "a", "million", "people", "you", "know", "there", "was", "just", "like", "a", "couple", "of", "dozen", "people", "right", "and", "we", "were", "i", "think", "all", "feeling", "the", "pain", "and", "the", "urgency", "to", "move", "fast", "so", "it", "was", "you", "know", "it", "was", "semi-obvious", "that", "that", "this", "was", "going", "to", "be", "good", "it", "was", "a", "bald", "bet", "so", "you", "need", "to", "kind", "of", "generate", "alignment", "both", "you", "know", "on", "the", "people", "who", "are", "deploying", "things", "and", "doing", "experiments", "every", "day", "but", "also", "you", "say", "get", "management", "you", "know", "to", "give", "you", "air", "cover", "because", "things", "are", "going", "to", "slow", "down", "right", "like", "i", "remember", "talking", "to", "my", "manager", "at", "phil's", "coffee", "end", "of", "2012", "where", "like", "revenue", "was", "still", "you", "know", "not", "picking", "up", "and", "he", "was", "asking", "me", "hey", "you", "haven't", "been", "shipping", "models", "all", "that", "often", "like", "what's", "going", "on", "and", "i'm", "like", "oh", "actually", "we're", "going", "to", "slow", "down", "even", "more", "it", "was", "like", "explain", "and", "then", "and", "then", "you", "explain", "you", "get", "into", "the", "details", "you", "get", "like", "buying", "on", "the", "vision", "at", "all", "levels", "and", "then", "but", "you", "keep", "it", "very", "very", "narrow", "right", "and", "then", "what", "happened", "once", "we", "started", "to", "have", "progress", "and", "stuff", "started", "to", "move", "faster", "and", "like", "you", "saw", "productivity", "increase", "then", "then", "we", "started", "to", "talk", "to", "the", "feed", "uh", "ranking", "team", "and", "then", "the", "feed", "ranking", "team", "you", "know", "we", "decided", "to", "like", "join", "forces", "for", "like", "uh", "summer", "2013.", "and", "that", "was", "really", "interesting", "because", "there", "again", "you", "have", "to", "just", "be", "laser", "focused", "right", "like", "um", "don't", "don't", "think", "about", "the", "features", "first", "don't", "think", "abstract", "first", "don't", "think", "about", "like", "you", "know", "it's", "not", "like", "platform", "first", "and", "then", "we", "see", "what", "happens", "it's", "like", "be", "extremely", "concrete", "like", "here's", "here's", "the", "types", "of", "things", "i", "want", "to", "make", "work", "and", "also", "just", "accept", "that", "one", "day", "you'll", "have", "to", "rewrite", "it", "uh", "and", "that", "they", "came", "but", "for", "now", "you", "know", "you", "want", "to", "prove", "the", "hero", "scenario", "right", "like", "you", "want", "to", "prove", "like", "hey", "this", "can", "actually", "be", "amazing", "right", "so", "that", "was", "the", "approach", "it", "was", "like", "very", "very", "extremely", "laser", "focused", "start", "very", "small", "start", "adding", "people", "you", "know", "build", "almost", "like", "a", "like", "a", "community", "that", "that", "supports", "each", "other", "really", "go", "like", "you", "know", "from", "from", "a", "core", "and", "then", "start", "expanding", "it's", "interesting", "you", "know", "at", "weights", "and", "biases", "you", "know", "we", "make", "a", "tool", "and", "i", "actually", "didn't", "really", "realize", "how", "similar", "our", "tools", "vision", "is", "to", "what", "you", "were", "building", "like", "our", "hope", "is", "to", "to", "really", "help", "with", "collaboration", "and", "reproducibility", "yeah", "and", "sort", "of", "the", "same", "idea", "of", "like", "we", "really", "wanted", "people", "to", "be", "able", "to", "find", "the", "person", "that", "made", "the", "thing", "and", "not", "have", "to", "you", "know", "redo", "all", "the", "work", "from", "scratch", "and", "i", "think", "we", "have", "maybe", "even", "more", "trouble", "than", "you", "getting", "buy-in", "right", "because", "you", "know", "no", "one", "knows", "us", "anything", "right", "like", "you", "know", "why", "would", "someone", "want", "to", "you", "know", "use", "our", "tool", "and", "i", "feel", "like", "for", "us", "a", "big", "part", "of", "it", "is", "like", "showing", "little", "wins", "to", "the", "individual", "practitioner", "like", "i", "feel", "like", "there's", "little", "details", "in", "our", "product", "that", "we", "try", "to", "you", "know", "just", "like", "give", "like", "a", "um", "you", "know", "something", "helpful", "right", "out", "of", "the", "gate", "to", "um", "you", "know", "someone", "new", "coming", "in", "before", "they", "do", "the", "collaboration", "and", "and", "before", "they", "have", "to", "really", "buy", "into", "our", "system", "i", "wonder", "if", "there's", "anything", "like", "that", "for", "you", "or", "people", "like", "oh", "i", "want", "that", "like", "i", "want", "to", "be", "able", "to", "see", "the", "system", "metrics", "of", "my", "um", "runs", "or", "something", "like", "that", "that", "got", "people", "to", "use", "their", "stuff", "yeah", "no", "excellent", "excellent", "question", "i'm", "just", "mining", "you", "selfishly", "for", "features", "for", "a", "product", "really", "that", "was", "that", "was", "so", "shameless", "yeah", "so", "[Laughter]", "so", "one", "one", "big", "caveat", "look", "at", "that", "i", "have", "to", "to", "say", "of", "course", "is", "that", "you", "know", "when", "i", "was", "very", "involved", "with", "this", "stuff", "in", "the", "in", "the", "early", "days", "um", "there", "was", "like", "already", "you", "know", "uh", "like", "eight", "uh", "seven", "and", "six", "years", "ago", "so", "so", "i", "know", "that", "things", "have", "changed", "a", "lot", "like", "i", "know", "that", "you", "have", "like", "open", "source", "tools", "today", "which", "if", "we", "had", "had", "them", "we", "would", "have", "just", "used", "them", "directly", "uh", "including", "maybe", "waste", "and", "biases", "products", "right", "so", "your", "question", "is", "if", "you", "set", "aside", "like", "the", "collaboration", "benefits", "and", "all", "that", "like", "just", "in", "terms", "of", "pure", "individual", "contributor", "you", "know", "productivity", "why", "would", "i", "care", "i", "have", "both", "news", "and", "i", "have", "bad", "news", "i", "guess", "good", "news", "i", "think", "i", "think", "the", "the", "bad", "news", "maybe", "is", "that", "some", "of", "the", "problems", "we", "solved", "were", "actually", "a", "bit", "facebook", "specific", "so", "i", "think", "that", "that's", "not", "going", "to", "be", "useful", "to", "you", "but", "like", "uh", "in", "terms", "of", "like", "um", "you", "know", "abstraction", "right", "and", "like", "just", "the", "ability", "to", "almost", "like", "at", "the", "click", "of", "a", "button", "like", "the", "fact", "that", "you", "could", "actually", "clone", "a", "workflow", "i'm", "going", "to", "give", "you", "an", "example", "here's", "an", "example", "so", "you're", "the", "instagram", "ml", "team", "and", "instagram's", "never", "been", "ranked", "before", "like", "instagram's", "feed", "has", "been", "shown", "like", "in", "uh", "decreasing", "uh", "in", "a", "chronological", "order", "right", "from", "most", "recent", "to", "to", "to", "less", "recent", "and", "you're", "tasked", "with", "like", "hey", "design", "me", "a", "ranking", "system", "for", "instagram", "right", "that's", "kind", "of", "like", "a", "tall", "order", "but", "imagine", "now", "that", "you", "have", "an", "environment", "where", "um", "you", "can", "actually", "just", "like", "look", "at", "the", "production", "system", "that", "ranks", "news", "feed", "there's", "a", "lot", "you", "can", "borrow", "there", "right", "and", "so", "i", "think", "just", "like", "just", "like", "the", "ability", "to", "borrow", "um", "uh", "you", "know", "whether", "it's", "like", "the", "features", "that", "seem", "to", "be", "working", "the", "best", "you", "know", "the", "models", "the", "sort", "of", "a", "training", "schedule", "the", "hyper", "parameters", "all", "of", "that", "is", "is", "like", "a", "big", "thing", "in", "parallel", "to", "that", "you", "have", "like", "abstractions", "right", "like", "uh", "again", "like", "at", "facebook", "i", "don't", "even", "know", "how", "many", "distinct", "and", "mutually", "incompatible", "you", "know", "uh", "data", "stores", "we", "have", "uh", "but", "you", "can", "imagine", "right", "so", "but", "and", "the", "fact", "that", "the", "tool", "will", "actually", "abstract", "that", "for", "you", "is", "is", "very", "useful", "um", "as", "well", "then", "if", "you", "have", "to", "build", "a", "workflow", "yourself", "building", "workflows", "is", "a", "pain", "right", "like", "if", "you", "have", "to", "do", "them", "from", "if", "you", "don't", "have", "a", "tool", "to", "build", "workflows", "it's", "just", "a", "pain", "and", "then", "another", "one", "tools", "for", "debugging", "you", "know", "and", "automation", "so", "i'll", "give", "you", "an", "example", "of", "a", "couple", "of", "things", "two", "for", "automation", "automatic", "feature", "selection", "the", "fact", "that", "the", "fact", "that", "you", "have", "a", "tool", "that", "actually", "scans", "for", "every", "feature", "you", "could", "possibly", "use", "and", "then", "while", "you're", "sleeping", "it's", "just", "making", "sure", "that", "you", "have", "maximum", "machine", "utilization", "uh", "and", "you're", "just", "like", "doing", "whatever", "feature", "selection", "algorithm", "you", "want", "i", "don't", "care", "doesn't", "matter", "but", "it's", "just", "doing", "work", "for", "you", "uh", "including", "you", "doing", "the", "plan", "so", "true", "stories", "is", "ads", "engineers", "would", "come", "in", "the", "morning", "on", "monday", "and", "they", "would", "see", "like", "proposals", "for", "new", "models", "and", "you're", "like", "oh", "this", "looks", "good", "like", "i", "get", "a", "couple", "of", "you", "know", "0.1", "whatever", "percent", "points", "of", "gain", "in", "like", "water", "metric", "and", "that's", "good", "the", "other", "one", "is", "one", "very", "simple", "reason", "ml", "systems", "fail", "is", "because", "some", "data", "pipeline", "uh", "fails", "right", "and", "and", "again", "like", "if", "you", "have", "to", "be", "checking", "ad", "hoc", "it's", "a", "pain", "imagine", "that", "you", "have", "like", "this", "beautiful", "dashboard", "you", "know", "with", "colors", "and", "whatever", "that", "just", "tell", "you", "what", "features", "have", "uh", "are", "not", "working", "and", "in", "which", "way", "are", "they", "not", "working", "anymore", "uh", "you", "know", "is", "it", "that", "you", "have", "like", "statistical", "things", "like", "they", "still", "produce", "uh", "valid", "values", "but", "they're", "like", "the", "same", "all", "the", "time", "or", "is", "it", "that", "you", "get", "like", "things", "that", "are", "not", "a", "number", "like", "what", "what", "the", "hell", "is", "going", "on", "right", "that's", "like", "super", "useful", "as", "well", "right", "or", "like", "tools", "to", "look", "at", "your", "learning", "curves", "and", "whatever", "so", "yeah", "these", "are", "like", "a", "bunch", "of", "examples", "of", "things", "which", "like", "you", "know", "if", "you're", "an", "email", "engineer", "are", "you", "you", "want", "that", "stuff", "totally", "that", "that", "totally", "makes", "sense", "i", "want", "to", "um", "make", "sure", "we", "we", "leave", "plenty", "of", "time", "for", "um", "you", "know", "the", "other", "thread", "of", "questions", "which", "is", "you", "know", "the", "new", "work", "you're", "doing", "is", "i", "think", "it", "says", "on", "on", "linkedin", "you're", "the", "tech", "lead", "for", "responsible", "ai", "um", "which", "is", "uh", "it", "sounds", "like", "a", "tall", "order", "i", "mean", "there's", "so", "many", "possible", "questions", "here", "i", "was", "kind", "of", "wondering", "what", "would", "be", "the", "most", "interesting", "but", "i", "think", "the", "i", "guess", "the", "genuine", "question", "that's", "top", "of", "mind", "for", "me", "is", "always", "walk", "me", "through", "a", "real", "decision", "like", "where", "it", "wasn't", "obvious", "what", "to", "do", "and", "and", "by", "some", "kind", "of", "analysis", "or", "thinking", "about", "it", "bring", "your", "expertise", "you", "were", "able", "to", "kind", "of", "guide", "facebook", "to", "to", "a", "better", "decision", "is", "that", "does", "something", "come", "to", "mind", "i'm", "going", "to", "start", "from", "the", "india", "elections", "this", "was", "the", "biggest", "election", "in", "in", "human", "history", "uh", "with", "almost", "a", "billion", "eligible", "voters", "so", "what's", "the", "challenge", "and", "why", "and", "where", "does", "ai", "come", "in", "well", "the", "challenge", "is", "that", "you", "know", "there's", "a", "lot", "of", "concerns", "of", "election", "interference", "through", "the", "spread", "of", "information", "which", "is", "either", "you", "know", "false", "or", "misleading", "or", "voter", "suppression", "or", "like", "whatever", "it", "might", "be", "right", "and", "and", "of", "course", "you", "know", "the", "way", "you", "address", "this", "if", "you're", "facebook", "or", "a", "similar", "company", "is", "you", "create", "guidelines", "for", "like", "what", "things", "you", "know", "are", "acceptable", "and", "what", "not", "there's", "of", "course", "legal", "constraints", "as", "well", "and", "then", "you", "just", "hire", "a", "bunch", "of", "humans", "like", "as", "many", "as", "you", "can", "and", "and", "you", "would", "know", "about", "that", "because", "you've", "worked", "on", "that", "in", "the", "past", "right", "so", "you", "have", "like", "people", "humans", "who", "are", "actually", "processing", "a", "queue", "of", "", "work", "right", "and", "that", "queue", "of", "work", "is", "like", "just", "reviewing", "posts", "but", "when", "you", "have", "a", "a", "country", "the", "size", "of", "india", "and", "like", "the", "volumes", "of", "information", "or", "content", "that", "are", "created", "every", "day", "on", "facebook", "it's", "just", "impossible", "like", "you", "cannot", "hire", "enough", "humans", "to", "to", "review", "like", "even", "you", "know", "even", "a", "decent", "fraction", "of", "everything", "so", "it's", "impossible", "right", "right", "so", "the", "way", "you", "use", "ai", "is", "use", "ai", "to", "prioritize", "human", "work", "right", "and", "the", "way", "you", "do", "this", "is", "you", "for", "example", "you", "train", "you", "know", "uh", "like", "like", "a", "a", "type", "of", "classifiers", "that", "we", "that", "we", "have", "used", "we", "call", "them", "uh", "civic", "classifiers", "and", "what", "they", "do", "is", "they", "try", "to", "tell", "whether", "the", "piece", "of", "content", "is", "just", "like", "a", "picture", "of", "a", "cat", "which", "is", "like", "whatever", "doesn't", "matter", "or", "people", "like", "me", "i'm", "a", "runner", "you", "know", "is", "it", "like", "did", "i", "post", "a", "new", "run", "on", "strava", "right", "it's", "like", "whatever", "he", "doesn't", "doesn't", "matter", "for", "the", "elections", "or", "or", "whether", "it's", "like", "actually", "someone", "discussing", "something", "that's", "actually", "relevant", "right", "uh", "social", "or", "political", "or", "civic", "issues", "right", "and", "then", "at", "least", "make", "sure", "that", "that", "type", "of", "content", "gets", "coverage", "okay", "so", "what's", "the", "challenge", "we're", "talking", "about", "resource", "allocation", "we're", "talking", "about", "like", "you", "have", "this", "set", "of", "humans", "that", "we're", "paying", "to", "protect", "the", "elections", "from", "interference", "and", "now", "the", "question", "is", "okay", "and", "we're", "using", "ai", "to", "prioritize", "our", "work", "well", "what", "happens", "if", "your", "nlp", "works", "only", "for", "hindi", "wait", "sorry", "could", "you", "even", "back", "up", "a", "second", "because", "it's", "probably", "obvious", "to", "you", "but", "it's", "not", "totally", "obvious", "to", "me", "like", "what", "assuming", "you", "had", "like", "unlimited", "you", "know", "human", "resources", "to", "to", "do", "something", "what", "is", "the", "thing", "you're", "trying", "to", "do", "i", "mean", "obviously", "you're", "not", "trying", "to", "block", "everything", "that's", "on", "the", "top", "of", "an", "election", "so", "yeah", "yeah", "what's", "what's", "the", "goal", "yeah", "yeah", "i", "should", "have", "explained", "that", "you", "will", "block", "things", "if", "they", "", "if", "they", "violate", "you", "know", "uh", "laws", "right", "so", "if", "you", "if", "you", "have", "like", "uh", "i", "don't", "know", "like", "defamation", "of", "like", "public", "figures", "you", "know", "with", "like", "like", "lies", "or", "you", "know", "just", "like", "illegal", "illegal", "content", "or", "um", "reduce", "the", "the", "distribution", "of", "of", "things", "that", "are", "harmful", "so", "it's", "it's", "both", "like", "filtering", "and", "reduction", "reducing", "distribution", "of", "of", "things", "that", "violate", "our", "our", "community", "standards", "or", "like", "law", "so", "that's", "the", "action", "that", "you're", "that", "you're", "taking", "with", "the", "condition", "of", "like", "humans", "and", "ai", "and", "so", "the", "challenge", "there", "again", "is", "like", "uh", "you", "know", "you", "know", "if", "you", "look", "at", "this", "from", "like", "a", "fairness", "point", "of", "view", "maybe", "your", "definition", "of", "fairness", "is", "that", "if", "we're", "investing", "a", "certain", "amount", "of", "human", "resources", "to", "do", "this", "job", "that", "we", "want", "to", "make", "sure", "that", "everyone", "in", "india", "gets", "protection", "from", "this", "type", "of", "harmful", "uh", "content", "yeah", "and", "then", "the", "question", "there", "becomes", "like", "what", "what", "does", "that", "mean", "right", "because", "if", "you", "think", "about", "algorithmic", "fairness", "and", "bias", "you", "know", "if", "you're", "thinking", "about", "like", "using", "ai", "to", "recommend", "jobs", "to", "people", "then", "you", "get", "", "into", "like", "and", "you're", "in", "the", "us", "you", "think", "about", "like", "protected", "categories", "you", "think", "about", "gender", "age", "you", "know", "race", "or", "ethnicity", "and", "stuff", "like", "that", "right", "where", "there's", "like", "anti-discrimination", "laws", "that", "exist", "but", "if", "you", "think", "about", "this", "problem", "in", "india", "you're", "like", "oh", "politically", "what", "are", "the", "hot", "areas", "right", "and", "then", "immediately", "you", "know", "when", "you", "work", "with", "local", "people", "you", "know", "it's", "things", "like", "caste", "or", "religion", "but", "obviously", "we", "don't", "have", "that", "data", "and", "it's", "not", "clear", "that", "it's", "not", "clear", "that", "we", "should", "right", "have", "that", "data", "so", "in", "the", "end", "you", "do", "a", "bunch", "of", "work", "and", "", "figure", "out", "well", "what", "can", "i", "do", "and", "so", "we", "ended", "up", "using", "like", "language", "and", "and", "region", "sorry", "well", "again", "if", "if", "you", "had", "cast", "and", "ethnicity", "i'm", "sorry", "i", "feel", "like", "i'm", "showing", "my", "ignorance", "here", "but", "if", "you", "had", "those", "things", "what", "what", "would", "you", "do", "with", "that", "like", "what", "what", "would", "be", "the", "fair", "thing", "to", "do", "that", "you're", "you're", "trying", "to", "do", "so", "so", "the", "challenge", "with", "fairness", "right", "and", "that's", "where", "like", "uh", "we're", "gonna", "go", "back", "all", "the", "way", "to", "music", "uh", "somehow", "is", "that", "there", "isn't", "one", "definition", "of", "fairness", "right", "uh", "if", "you", "look", "at", "philosophy", "whether", "it's", "like", "moral", "or", "political", "philosophy", "or", "you", "look", "at", "the", "law", "or", "even", "you", "look", "at", "like", "the", "vibrant", "community", "in", "the", "computer", "science", "community", "and", "machine", "learning", "right", "who's", "thinking", "about", "algorithmic", "bias", "one", "common", "pattern", "is", "that", "you", "have", "multiple", "definitions", "of", "fairness", "that", "are", "mutually", "incompatible", "so", "you", "have", "to", "pick", "one", "right", "so", "in", "this", "case", "the", "one", "that", "you", "could", "pick", "is", "you", "could", "say", "well", "i", "want", "to", "make", "sure", "that", "everyone", "irrespective", "of", "their", "you", "know", "caste", "or", "or", "religion", "is", "going", "to", "see", "content", "that", "has", "received", "a", "comparable", "amount", "of", "protection", "against", "uh", "against", "harmful", "or", "like", "you", "know", "uh", "content", "that", "is", "basically", "misleading", "or", "you", "know", "imagine", "like", "it's", "like", "voter", "suppression", "type", "of", "content", "there", "right", "that", "spreads", "lies", "about", "like", "i", "mean", "there's", "even", "stuff", "like", "just", "lying", "about", "when", "the", "election", "day", "is", "or", "like", "whatever", "you", "know", "okay", "thanks", "that's", "helpful", "yeah", "yeah", "then", "you", "then", "you", "kind", "of", "miss", "it", "right", "or", "or", "maybe", "like", "maybe", "lying", "about", "what", "what", "a", "particular", "politician", "stands", "for", "right", "like", "just", "sort", "of", "putting", "out", "something", "that's", "completely", "false", "or", "like", "right", "right", "right", "so", "you", "want", "to", "yeah", "go", "ahead", "so", "so", "i", "guess", "one", "one", "way", "just", "to", "repeat", "back", "where", "you're", "saying", "one", "way", "would", "be", "like", "we", "want", "to", "make", "sure", "everyone", "like", "across", "groups", "like", "cast", "or", "religion", "gets", "the", "same", "level", "of", "protection", "correct", "by", "actual", "humans", "looking", "at", "the", "content", "that's", "exactly", "right", "why", "might", "that", "not", "be", "like", "the", "most", "fair", "approach", "well", "would", "there", "be", "a", "different", "argument", "for", "different", "yeah", "yeah", "you", "have", "situations", "where", "so", "so", "here", "you", "know", "uh", "this", "would", "be", "like", "an", "equal", "treatment", "type", "of", "type", "of", "argument", "where", "you", "would", "say", "you", "know", "we", "want", "to", "treat", "everybody", "uh", "the", "same", "and", "equal", "treatment", "is", "i", "think", "in", "many", "cultures", "uh", "like", "the", "sort", "of", "like", "the", "first", "instinct", "that", "that", "you", "have", "but", "but", "you", "could", "think", "about", "other", "things", "right", "you", "could", "think", "uh", "on", "the", "one", "hand", "you", "could", "dial", "things", "more", "towards", "uh", "equity", "and", "in", "inequity", "you", "could", "look", "at", "like", "historical", "uh", "uh", "you", "know", "disadvantages", "that", "some", "group", "might", "have", "had", "right", "like", "is", "there", "is", "there", "a", "case", "where", "like", "historically", "you", "know", "some", "cats", "and", "religions", "are", "are", "privileged", "compared", "to", "others", "and", "and", "like", "the", "pressure", "you", "know", "or", "like", "um", "the", "amount", "of", "misinformation", "or", "like", "you", "know", "if", "you", "think", "about", "the", "u.s", "right", "like", "not", "every", "group", "in", "the", "u.s", "has", "historically", "had", "equal", "access", "to", "bubble", "team", "right", "and", "even", "today", "like", "voter", "suppression", "efforts", "are", "not", "um", "uniformly", "distributed", "like", "some", "some", "groups", "are", "actually", "more", "targeted", "than", "others", "right", "so", "you", "could", "actually", "say", "no", "i'm", "actually", "going", "to", "understand", "you", "know", "whether", "i", "should", "prioritize", "outcomes", "for", "for", "for", "some", "groups", "over", "others", "right", "and", "and", "you", "know", "if", "you", "think", "about", "like", "um", "you", "know", "there's", "many", "as", "many", "sort", "of", "public", "policies", "in", "society", "that", "actually", "sort", "of", "aim", "at", "you", "know", "uh", "focusing", "more", "on", "on", "some", "groups", "that", "have", "been", "disadvantaged", "i", "see", "and", "so", "what", "did", "you", "do", "so", "in", "this", "case", "we", "we", "went", "for", "the", "equal", "treatment", "you", "know", "approach", "and", "then", "what", "we", "did", "this", "triggered", "a", "whole", "amount", "of", "work", "you", "know", "we", "first", "of", "all", "we", "don't", "have", "cast", "and", "religion", "and", "we", "there's", "many", "reasons", "there's", "many", "risks", "you", "know", "uh", "why", "a", "corporation", "shouldn't", "have", "you", "know", "certain", "type", "of", "demographic", "information", "uh", "there's", "like", "a", "lot", "of", "examples", "in", "history", "why", "it's", "it's", "just", "dangerous", "to", "have", "repositories", "of", "certain", "you", "know", "demographic", "characteristics", "so", "what", "we", "did", "is", "we", "used", "reasonable", "alternatives", "like", "uh", "language", "and", "region", "right", "and", "so", "we", "said", "okay", "we're", "gonna", "make", "sure", "that", "all", "religions", "in", "india", "and", "like", "not", "all", "languages", "because", "it's", "like", "a", "huge", "amount", "of", "languages", "in", "india", "but", "like", "i", "think", "we", "went", "for", "like", "the", "top", "i", "don't", "remember", "anymore", "top", "15", "plus", "minus", "you", "know", "languages", "are", "sort", "of", "well", "protected", "and", "then", "you", "can", "get", "into", "things", "okay", "how", "do", "i", "translate", "", "into", "math", "and", "code", "right", "so", "and", "so", "you", "need", "to", "look", "at", "many", "levels", "right", "like", "one", "you", "need", "to", "look", "uh", "you", "know", "the", "most", "basic", "thing", "is", "when", "you", "look", "at", "the", "data", "you", "look", "at", "two", "things", "you", "look", "at", "representation", "and", "then", "you", "look", "at", "biases", "in", "the", "labels", "right", "so", "representation", "make", "sure", "that", "across", "you", "know", "you", "build", "yourself", "your", "matrix", "of", "like", "you", "know", "regions", "and", "languages", "and", "make", "sure", "that", "for", "each", "of", "these", "buckets", "you", "have", "a", "sufficient", "amount", "of", "uh", "labeled", "training", "data", "and", "then", "and", "then", "and", "then", "once", "you're", "in", "in", "one", "of", "these", "buckets", "you", "kind", "of", "you", "get", "yourself", "some", "uh", "some", "some", "ground", "truth", "data", "and", "that", "would", "be", "like", "a", "very", "long", "conversation", "to", "figure", "out", "what", "that", "is", "but", "like", "yeah", "expensive", "high", "quality", "data", "that", "you", "can", "use", "as", "a", "reference", "right", "and", "then", "you", "kind", "of", "measure", "you", "know", "you", "look", "at", "the", "difference", "in", "errors", "that", "you", "have", "in", "your", "labeling", "process", "across", "all", "these", "buckets", "and", "you", "want", "to", "make", "sure", "that", "you", "don't", "have", "systematic", "differences", "but", "of", "course", "that's", "not", "enough", "right", "then", "then", "you", "actually", "look", "at", "your", "your", "models", "themselves", "you", "train", "your", "model", "and", "you", "look", "at", "things", "like", "oh", "you", "know", "in", "the", "in", "the", "prediction", "errors", "do", "i", "have", "you", "know", "systematic", "uh", "differences", "and", "one", "cool", "thing", "to", "look", "at", "if", "you", "have", "binary", "classifiers", "uh", "and", "you're", "using", "you", "know", "here", "you", "would", "be", "using", "the", "probability", "that", "something", "is", "you", "know", "civic", "uh", "content", "to", "prioritize", "uh", "review", "in", "that", "context", "it's", "very", "reasonable", "to", "use", "actually", "a", "calibration", "to", "look", "at", "the", "whole", "calibration", "curve", "you", "know", "and", "make", "sure", "that", "my", "calibration", "curve", "right", "which", "which", "maps", "scores", "to", "actual", "outcome", "rates", "make", "sure", "that", "those", "curves", "look", "similar", "you", "know", "for", "different", "groups", "right", "that", "i'm", "not", "like", "over", "predicting", "you", "know", "for", "one", "group", "and", "under", "predicting", "for", "another", "because", "if", "i", "were", "over", "predicting", "for", "a", "particular", "language", "then", "i", "would", "be", "allocating", "more", "human", "resources", "to", "that", "language", "and", "if", "i'm", "under", "predicting", "for", "another", "i'm", "allocating", "fewer", "resources", "but", "it's", "not", "justified", "because", "you", "know", "the", "it", "that", "doesn't", "reflect", "you", "know", "the", "actual", "volume", "of", "content", "that", "actually", "needs", "to", "be", "reviewed", "uh", "for", "both", "but", "is", "it", "i", "guess", "is", "it", "possible", "that", "some", "language", "has", "more", "um", "banned", "content", "and", "then", "how", "how", "can", "you", "be", "sure", "that", "it", "seems", "like", "your", "model", "would", "sort", "of", "naturally", "use", "that", "as", "like", "a", "feature", "in", "the", "model", "and", "then", "it", "would", "sort", "of", "naturally", "get", "over", "index", "like", "how", "do", "you", "back", "that", "out", "i", "think", "i", "think", "that's", "how", "you", "that's", "where", "you", "use", "calibration", "right", "so", "um", "if", "you", "think", "about", "a", "you", "know", "a", "calibration", "curve", "you're", "looking", "at", "how", "you", "know", "your", "your", "scatter", "plot", "of", "like", "um", "you", "know", "like", "you", "you", "group", "your", "scores", "right", "so", "the", "thing", "is", "freaking", "score", "", "zero", "to", "one", "which", "we", "interpret", "as", "a", "probability", "of", "something", "being", "you", "know", "it", "needs", "revi