Datasets:
Languages:
en
Multilinguality:
monolingual
Size Categories:
10K<n<100K
Licenses:
mit
Language Creators:
machine-generated
Source Datasets:
original
Dataset Preview
Go to dataset viewer
video_ids (string) | default_seq (json) | correction_seq (json) | diff_type (json) |
---|---|---|---|
t37gnfQzgP4
| [
"hey",
"everybody",
"ivan",
"from",
"weights",
"and",
"biases",
"here",
"in",
"this",
"video",
"i'd",
"like",
"to",
"show",
"you",
"how",
"you",
"can",
"train",
"yellow",
"version",
"five",
"on",
"google",
"co-op",
"using",
"a",
"small",
"data",
"set",
"and",
"then",
"track",
"and",
"visualize",
"your",
"experiments",
"using",
"weights",
"and",
"biases",
"dashboard",
"so",
"since",
"we're",
"gonna",
"be",
"using",
"google",
"call",
"up",
"for",
"training",
"that",
"means",
"that",
"you",
"can",
"follow",
"along",
"by",
"just",
"clicking",
"the",
"link",
"in",
"the",
"description",
"and",
"opening",
"the",
"call",
"of",
"notebook",
"first",
"let's",
"clone",
"and",
"set",
"up",
"your",
"lv5",
"repo",
"by",
"clicking",
"on",
"the",
"first",
"cell",
"this",
"will",
"get",
"cloned",
"the",
"yellow",
"v5",
"repository",
"from",
"github",
"into",
"colab",
"as",
"well",
"as",
"install",
"all",
"the",
"required",
"modules",
"along",
"the",
"way",
"once",
"the",
"setup",
"is",
"complete",
"you",
"should",
"be",
"able",
"to",
"see",
"all",
"the",
"yellow",
"folders",
"and",
"files",
"in",
"the",
"cola",
"file",
"view",
"now",
"to",
"make",
"sure",
"that",
"we",
"actually",
"have",
"you",
"know",
"the",
"working",
"and",
"functioning",
"neural",
"network",
"here",
"let's",
"run",
"the",
"inference",
"on",
"one",
"of",
"the",
"example",
"images",
"from",
"the",
"repo",
"looking",
"good",
"so",
"far",
"now",
"the",
"example",
"data",
"set",
"that",
"we're",
"gonna",
"be",
"using",
"is",
"coco",
"128",
"which",
"is",
"essentially",
"a",
"really",
"small",
"data",
"set",
"with",
"just",
"128",
"first",
"images",
"from",
"the",
"original",
"coco",
"data",
"set",
"this",
"will",
"allow",
"us",
"to",
"see",
"how",
"the",
"training",
"visualizations",
"work",
"without",
"having",
"to",
"wait",
"for",
"too",
"long",
"you",
"know",
"for",
"the",
"model",
"to",
"train",
"let's",
"click",
"this",
"cell",
"to",
"download",
"the",
"coco",
"128",
"data",
"set",
"we",
"can",
"now",
"see",
"it",
"appear",
"in",
"the",
"column",
"files",
"view",
"um",
"let's",
"check",
"out",
"a",
"few",
"images",
"from",
"there",
"now",
"let's",
"move",
"on",
"to",
"the",
"exciting",
"part",
"which",
"is",
"training",
"uh",
"versions",
"weights",
"and",
"biases",
"are",
"a",
"part",
"of",
"yellow",
"version",
"five",
"all",
"we",
"have",
"to",
"do",
"is",
"to",
"just",
"pip",
"install",
"wnb",
"by",
"clicking",
"the",
"cell",
"to",
"be",
"able",
"to",
"then",
"track",
"our",
"experiments",
"so",
"the",
"next",
"cell",
"will",
"start",
"the",
"training",
"here",
"we",
"can",
"specify",
"the",
"input",
"resolution",
"of",
"our",
"images",
"number",
"of",
"epochs",
"the",
"batch",
"size",
"as",
"well",
"as",
"the",
"data",
"set",
"that",
"we're",
"using",
"and",
"last",
"but",
"not",
"least",
"we",
"also",
"specify",
"the",
"pre-trained",
"yellow",
"version",
"5",
"weights",
"to",
"take",
"advantage",
"of",
"transfer",
"learning",
"after",
"seeing",
"the",
"logs",
"that",
"we",
"have",
"the",
"successfully",
"loaded",
"model",
"we",
"can",
"sign",
"into",
"our",
"weights",
"and",
"biases",
"accounts",
"to",
"visualize",
"the",
"results",
"if",
"you",
"don't",
"have",
"an",
"account",
"you",
"can",
"take",
"a",
"few",
"moments",
"to",
"create",
"one",
"and",
"since",
"i",
"you",
"know",
"already",
"have",
"an",
"account",
"i'll",
"just",
"you",
"know",
"authenticate",
"into",
"the",
"weights",
"and",
"biases",
"dashboard",
"now",
"the",
"training",
"has",
"started",
"if",
"it's",
"your",
"first",
"yellow",
"version",
"5",
"run",
"weights",
"and",
"biases",
"will",
"automatically",
"create",
"a",
"private",
"project",
"in",
"your",
"account",
"where",
"you",
"can",
"find",
"your",
"dashboard",
"click",
"on",
"the",
"view",
"project",
"link",
"to",
"open",
"it",
"and",
"see",
"the",
"data",
"about",
"how",
"your",
"model",
"is",
"doing",
"that's",
"being",
"automatically",
"pulled",
"in",
"real",
"time",
"when",
"you",
"open",
"the",
"project",
"right",
"at",
"the",
"top",
"you'll",
"see",
"one",
"of",
"my",
"favorite",
"features",
"around",
"here",
"which",
"is",
"the",
"bounding",
"box",
"debugger",
"let's",
"enlarge",
"the",
"window",
"and",
"take",
"a",
"closer",
"look",
"at",
"it",
"the",
"bounding",
"box",
"debugger",
"plots",
"random",
"images",
"from",
"the",
"valve",
"data",
"set",
"with",
"the",
"bounding",
"boxes",
"and",
"the",
"confidence",
"scores",
"giving",
"you",
"the",
"intuition",
"for",
"what's",
"going",
"on",
"in",
"the",
"model",
"during",
"training",
"beyond",
"just",
"you",
"know",
"the",
"raw",
"numbers",
"and",
"the",
"training",
"logs",
"you",
"can",
"see",
"how",
"the",
"model",
"performed",
"in",
"the",
"images",
"at",
"each",
"step",
"of",
"the",
"training",
"choose",
"the",
"confidence",
"threshold",
"of",
"the",
"planet",
"bounding",
"boxes",
"or",
"to",
"display",
"or",
"not",
"display",
"certain",
"classes",
"from",
"your",
"data",
"set",
"if",
"you",
"scroll",
"a",
"bit",
"lower",
"you'll",
"see",
"a",
"lot",
"of",
"useful",
"metrics",
"including",
"the",
"average",
"precision",
"gpu",
"usage",
"training",
"and",
"validation",
"losses",
"those",
"are",
"",
"being",
"updated",
"in",
"real",
"time",
"as",
"your",
"model",
"trains",
"now",
"let's",
"do",
"something",
"interesting",
"we're",
"going",
"to",
"train",
"a",
"model",
"for",
"a",
"second",
"time",
"but",
"with",
"different",
"hyper",
"parameters",
"just",
"for",
"example",
"i'll",
"change",
"the",
"input",
"resolution",
"from",
"640",
"to",
"416",
"batch",
"size",
"from",
"30",
"to",
"64",
"and",
"epochs",
"from",
"10",
"to",
"35",
"and",
"let's",
"start",
"our",
"training",
"now",
"taking",
"a",
"look",
"at",
"the",
"dashboard",
"again",
"",
"you'll",
"see",
"in",
"your",
"run",
"appear",
"in",
"the",
"runs",
"panel",
"on",
"the",
"left",
"and",
"now",
"look",
"at",
"this",
"we",
"can",
"actually",
"compare",
"the",
"performance",
"of",
"different",
"runs",
"with",
"different",
"configurations",
"side",
"to",
"side",
"with",
"several",
"runs",
"selected",
"the",
"bounding",
"box",
"debugger",
"now",
"let's",
"",
"see",
"how",
"each",
"of",
"the",
"models",
"does",
"on",
"",
"each",
"of",
"the",
"images",
"selected",
"there",
"we",
"can",
"specify",
"which",
"images",
"we",
"wanted",
"to",
"look",
"at",
"at",
"a",
"time",
"as",
"well",
"as",
"",
"at",
"what",
"training",
"step",
"and",
"what",
"what",
"are",
"going",
"to",
"be",
"the",
"confidence",
"thresholds",
"and",
"the",
"classes",
"that",
"we",
"wanted",
"to",
"display",
"this",
"is",
"a",
"great",
"way",
"to",
"get",
"some",
"intuitive",
"understanding",
"for",
"how",
"different",
"configurations",
"of",
"your",
"models",
"actually",
"work",
"the",
"training",
"charts",
"now",
"let",
"us",
"see",
"the",
"numbers",
"for",
"each",
"model",
"nicely",
"plotted",
"next",
"to",
"each",
"other",
"and",
"the",
"gpu",
"usage",
"metrics",
"can",
"give",
"you",
"some",
"invaluable",
"insights",
"as",
"to",
"how",
"each",
"of",
"the",
"models",
"utilizes",
"the",
"gpu",
"so",
"you",
"can",
"pick",
"the",
"right",
"hardware",
"for",
"the",
"training",
"but",
"there",
"is",
"more",
"if",
"we",
"click",
"on",
"the",
"run",
"and",
"then",
"click",
"on",
"the",
"magical",
"overview",
"button",
"for",
"the",
"run",
"we'll",
"find",
"all",
"",
"the",
"hyper",
"parameters",
"used",
"for",
"training",
"our",
"model",
"this",
"applies",
"to",
"all",
"of",
"the",
"runs",
"that",
"will",
"have",
"and",
"this",
"way",
"you",
"can",
"keep",
"track",
"of",
"the",
"different",
"configurations",
"of",
"different",
"models",
"while",
"doing",
"your",
"experiments",
"and",
"seeing",
"how",
"they",
"perform",
"you",
"can",
"also",
"see",
"the",
"charts",
"for",
"each",
"of",
"the",
"runs",
"all",
"the",
"different",
"system",
"metrics",
"the",
"logs",
"during",
"training",
"",
"and",
"like",
"like",
"yeah",
"like",
"it",
"also",
"got",
"the",
"logs",
"you",
"know",
"as",
"well",
"as",
"a",
"few",
"other",
"useful",
"files",
"stored",
"there",
"so",
"using",
"weights",
"and",
"biases",
"to",
"track",
"your",
"yellow",
"version",
"5",
"runs",
"and",
"train",
"models",
"gives",
"you",
"some",
"really",
"awesome",
"insights",
"and",
"intuitions",
"for",
"how",
"the",
"training",
"is",
"going",
"while",
"letting",
"you",
"effectively",
"keep",
"track",
"of",
"all",
"of",
"your",
"experiments",
"you",
"can",
"try",
"it",
"out",
"yourself",
"on",
"google",
"co-op",
"you",
"can",
"find",
"a",
"link",
"to",
"the",
"notebook",
"in",
"the",
"description",
"uh",
"feel",
"free",
"to",
"train",
"some",
"models",
"and",
"track",
"some",
"awesome",
"experiments",
"we",
"hope",
"you",
"enjoy",
"it"
]
| [
"Hey",
"everybody,",
"Ivan",
"",
"Weights",
"&",
"Biases",
"here.",
"In",
"",
"",
"I'd",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Google",
"Colab",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Weights",
"&",
"Biases",
"dashboard.",
"So,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"training,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"description,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"cell.",
"This",
"",
"git",
"clone",
"",
"",
"",
"",
"",
"GitHub",
"",
"Colab,",
"",
"",
"",
"",
"",
"",
"",
"modules.",
"Once,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"YOLO",
"",
"",
"",
"",
"",
"Colab",
"",
"view.",
"Now,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"here,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"repo.",
"Looking",
"",
"",
"far!",
"Now,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"train.",
"Let's",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"colab",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"there.",
"Now,",
"",
"",
"",
"",
"",
"",
"part:",
"",
"",
"training.",
"First,",
"since",
"Weights",
"&",
"Biases",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"wandb",
"",
"",
"this",
"",
"",
"",
"",
"",
"",
"",
"",
"experiments.",
"So,",
"",
"",
"",
"",
"",
"",
"training.",
"Here,",
"",
"",
"",
"",
"",
"",
"",
"",
"images,",
"",
"",
"epochs,",
"",
"",
"size,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"least,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"learning.",
"After",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"model,",
"",
"",
"",
"",
"",
"Weights",
"&",
"Biases",
"",
"",
"",
"",
"results.",
"If",
"",
"",
"",
"",
"account,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"I'll",
"",
"",
"",
"",
"",
"",
"Weights",
"",
"Biases",
"",
"Now,",
"",
"",
"",
"started.",
"If",
"",
"",
"",
"",
"",
"",
"",
"Weights",
"&",
"Biases",
"",
"automatically.",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"dashboard.",
"Click",
"",
"",
"\"view",
"project\"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"project,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"debugger.",
"Let's",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"it.",
"The",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"scores,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"logs.",
"You",
"",
"",
"",
"",
"",
"",
"on",
"",
"",
"",
"",
"",
"",
"",
"training,",
"",
"",
"",
"",
"",
"",
"plotted",
"",
"boxes,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"lower,",
"",
"",
"",
"",
"",
"",
"metrics,",
"",
"",
"Average",
"Precision,",
"GPU",
"usage,",
"",
"",
"",
"losses.",
"Those",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"trains.",
"Now,",
"",
"",
"",
"interesting:",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"example,",
"I'll",
"",
"",
"",
"",
"",
"",
"",
"416,",
"",
"",
"",
"",
"",
"64,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"a",
"new",
"",
"",
"",
"",
"",
"",
"",
"",
"left.",
"And",
"",
"",
"",
"this:",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"selected,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"there.",
"We",
"",
"",
"",
"",
"",
"want",
"",
"",
"",
"",
"",
"time,",
"",
"",
"",
"",
"",
"",
"",
"step,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"thresholds,",
"",
"",
"",
"",
"",
"want",
"",
"display.",
"This",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"work.",
"The",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"other.",
"And",
"",
"GPU",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"GPU,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"a",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"run,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"model.",
"This",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"perform!",
"You",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"metrics,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"experiments.",
"You",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"the",
"",
"",
"",
"",
"",
"",
"",
"-",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"experiments.",
"We",
"",
"",
"",
"it!"
]
| [
1,
2,
1,
0,
1,
7,
1,
2,
1,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
7,
1,
2,
3,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
7,
4,
0,
0,
0,
0,
0,
1,
0,
3,
0,
0,
0,
0,
0,
0,
0,
2,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
7,
0,
2,
3,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
2,
3,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
3,
0,
0,
0,
0,
0,
0,
2,
0,
0,
2,
7,
7,
1,
7,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
2,
3,
0,
0,
0,
0,
0,
0,
2,
3,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
2,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
1,
7,
1,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
1,
0,
1,
0,
3,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
1,
7,
1,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
2,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
7,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
2,
0,
0,
1,
3,
1,
2,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
3,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
7,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
4,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
4,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
3,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
2
]
|
A1S4znIfcD8
| [
"today",
"we're",
"gonna",
"talk",
"about",
"the",
"big",
"picture",
"what",
"is",
"machine",
"learning",
"what",
"is",
"deep",
"learning",
"how",
"does",
"it",
"really",
"work",
"and",
"where",
"can",
"we",
"apply",
"it",
"and",
"unlike",
"some",
"of",
"the",
"other",
"videos",
"that",
"we're",
"doing",
"here",
"this",
"isn't",
"just",
"for",
"engineers",
"this",
"is",
"really",
"for",
"anyone",
"that",
"wants",
"to",
"get",
"a",
"deeper",
"understanding",
"about",
"how",
"machine",
"learning",
"actually",
"works",
"and",
"there's",
"tons",
"of",
"videos",
"out",
"there",
"that",
"talk",
"about",
"various",
"aspects",
"of",
"machine",
"learning",
"but",
"the",
"gap",
"that",
"I",
"want",
"to",
"fill",
"in",
"is",
"really",
"showing",
"people",
"where",
"they",
"can",
"apply",
"machine",
"learning",
"because",
"it",
"applies",
"to",
"so",
"many",
"things",
"but",
"it",
"doesn't",
"apply",
"to",
"every",
"single",
"thing",
"on",
"the",
"planet",
"and",
"I",
"think",
"you",
"really",
"need",
"to",
"kind",
"of",
"have",
"a",
"sense",
"of",
"how",
"it",
"actually",
"works",
"behind",
"the",
"scenes",
"because",
"if",
"you",
"just",
"think",
"if",
"it",
"is",
"magic",
"it's",
"really",
"unclear",
"where",
"I",
"should",
"be",
"thinking",
"ah",
"that's",
"a",
"machine",
"learning",
"problem",
"and",
"that's",
"not",
"a",
"machine",
"learning",
"problem",
"we",
"have",
"to",
"acknowledge",
"there's",
"an",
"incredible",
"amount",
"of",
"hype",
"around",
"machine",
"learning",
"right",
"now",
"and",
"one",
"of",
"the",
"manifestations",
"of",
"that",
"may",
"be",
"while",
"you're",
"watching",
"this",
"video",
"is",
"because",
"the",
"people",
"that",
"understand",
"how",
"to",
"do",
"machine",
"learning",
"are",
"being",
"paid",
"huge",
"salaries",
"right",
"now",
"startups",
"are",
"being",
"acquired",
"left",
"and",
"right",
"not",
"for",
"the",
"technology",
"but",
"just",
"for",
"their",
"machine",
"learning",
"and",
"deep",
"learning",
"expertise",
"even",
"McKinsey",
"thinks",
"this",
"is",
"going",
"to",
"be",
"a",
"huge",
"market",
"not",
"tomorrow",
"but",
"in",
"the",
"in",
"the",
"near",
"near",
"future",
"so",
"I",
"think",
"it's",
"important",
"to",
"back",
"up",
"and",
"ask",
"ourselves",
"and",
"talk",
"about",
"what",
"can",
"machine",
"learning",
"really",
"do",
"right",
"now",
"today",
"the",
"best",
"resource",
"for",
"all",
"the",
"applications",
"is",
"a",
"blog",
"written",
"by",
"Siobhan",
"Zyliss",
"where",
"she",
"covered",
"this",
"in",
"depth",
"but",
"I",
"want",
"to",
"go",
"through",
"a",
"range",
"of",
"the",
"applications",
"that",
"are",
"out",
"there",
"so",
"first",
"of",
"all",
"the",
"TSA",
"now",
"says",
"that",
"deep",
"learning",
"can",
"find",
"weapons",
"on",
"passengers",
"better",
"than",
"human",
"agents",
"deep",
"learning",
"can",
"count",
"your",
"cells",
"and",
"it",
"can",
"look",
"for",
"cancer",
"in",
"a",
"biopsy",
"it",
"can",
"find",
"endangered",
"animals",
"and",
"aerial",
"photos",
"it",
"can",
"automatically",
"detect",
"weeds",
"on",
"farms",
"from",
"tractors",
"and",
"it",
"can",
"help",
"you",
"build",
"crazy",
"robots",
"that",
"impress",
"your",
"friends",
"so",
"all",
"these",
"different",
"examples",
"come",
"from",
"different",
"industries",
"and",
"involve",
"incredibly",
"different",
"types",
"of",
"inputs",
"and",
"outputs",
"so",
"you",
"might",
"be",
"really",
"surprised",
"to",
"learn",
"that",
"machine",
"learning",
"the",
"whole",
"disap",
"and",
"actually",
"has",
"an",
"incredibly",
"restrictive",
"API",
"or",
"data",
"type",
"that",
"it",
"needs",
"for",
"inputs",
"and",
"outputs",
"and",
"so",
"actually",
"getting",
"things",
"like",
"audio",
"and",
"images",
"and",
"text",
"into",
"the",
"format",
"that",
"machine",
"learning",
"takes",
"and",
"actually",
"interpreting",
"the",
"very",
"restrictive",
"format",
"that",
"it",
"outputs",
"for",
"your",
"application",
"is",
"a",
"huge",
"piece",
"of",
"machine",
"learning",
"that",
"no",
"one",
"really",
"talks",
"about",
"and",
"it's",
"what",
"we're",
"gonna",
"talk",
"about",
"for",
"the",
"rest",
"of",
"this",
"video",
"first",
"let's",
"get",
"our",
"definition",
"straight",
"because",
"there's",
"a",
"lot",
"of",
"confusion",
"so",
"deep",
"learning",
"is",
"a",
"type",
"of",
"machine",
"learning",
"maybe",
"the",
"most",
"exciting",
"type",
"of",
"machine",
"learning",
"right",
"now",
"machine",
"learning",
"is",
"a",
"discipline",
"of",
"artificial",
"intelligence",
"probably",
"the",
"most",
"exciting",
"field",
"in",
"artificial",
"intelligence",
"right",
"now",
"and",
"so",
"all",
"of",
"the",
"use",
"cases",
"that",
"I",
"gave",
"are",
"actually",
"machine",
"learning",
"problems",
"and",
"what",
"we",
"care",
"about",
"today",
"is",
"machine",
"learning",
"most",
"AI",
"departments",
"right",
"now",
"focus",
"on",
"machine",
"learning",
"because",
"it's",
"the",
"part",
"of",
"AI",
"that's",
"really",
"working",
"I",
"think",
"of",
"machine",
"learning",
"as",
"statistics",
"applied",
"to",
"AI",
"so",
"here's",
"the",
"canonical",
"machine",
"learning",
"problem",
"we",
"have",
"a",
"picture",
"of",
"a",
"cat",
"we",
"want",
"to",
"do",
"some",
"black",
"magic",
"and",
"somehow",
"classify",
"our",
"picture",
"as",
"a",
"cat",
"so",
"how",
"does",
"that",
"work",
"so",
"in",
"order",
"to",
"answer",
"that",
"question",
"let's",
"back",
"up",
"a",
"second",
"and",
"talk",
"about",
"the",
"canonical",
"statistics",
"problem",
"there's",
"many",
"data",
"sets",
"that",
"could",
"have",
"used",
"but",
"for",
"some",
"reason",
"I",
"use",
"the",
"data",
"set",
"of",
"baby",
"chickens",
"where",
"I",
"have",
"their",
"ages",
"and",
"weight",
"in",
"machine",
"learning",
"these",
"examples",
"would",
"be",
"called",
"training",
"data",
"imagine",
"we're",
"a",
"farmer",
"and",
"we",
"want",
"to",
"predict",
"from",
"our",
"data",
"that",
"we've",
"collected",
"if",
"we",
"have",
"a",
"baby",
"chicken",
"that's",
"18",
"days",
"old",
"how",
"much",
"would",
"we",
"expect",
"it",
"to",
"weigh",
"here",
"we're",
"gonna",
"build",
"a",
"model",
"to",
"fit",
"to",
"our",
"training",
"data",
"to",
"answer",
"that",
"question",
"you",
"may",
"not",
"have",
"had",
"exactly",
"this",
"problem",
"before",
"but",
"you",
"may",
"have",
"done",
"something",
"like",
"this",
"you",
"can",
"actually",
"do",
"it",
"in",
"Excel",
"and",
"it's",
"called",
"linear",
"regression",
"if",
"you've",
"ever",
"made",
"a",
"trendline",
"through",
"your",
"data",
"it's",
"probably",
"using",
"linear",
"regression",
"we",
"can",
"actually",
"plot",
"these",
"points",
"and",
"these",
"are",
"the",
"ages",
"and",
"the",
"weights",
"of",
"the",
"chickens",
"and",
"this",
"is",
"our",
"training",
"data",
"that",
"we",
"use",
"to",
"build",
"a",
"model",
"this",
"line",
"this",
"trend",
"line",
"this",
"linear",
"regression",
"actually",
"makes",
"predictions",
"for",
"any",
"age",
"so",
"we",
"can",
"look",
"at",
"eight",
"ten",
"days",
"in",
"the",
"x-axis",
"and",
"see",
"that",
"the",
"line",
"is",
"at",
"170",
"on",
"the",
"y-axis",
"so",
"our",
"models",
"predicting",
"that",
"a",
"baby",
"chicken",
"will",
"weigh",
"a",
"hundred",
"and",
"seventy",
"grams",
"when",
"it's",
"18",
"days",
"old",
"now",
"that's",
"linear",
"regression",
"but",
"we",
"can",
"do",
"fancier",
"things",
"too",
"even",
"with",
"this",
"tiny",
"data",
"set",
"in",
"this",
"case",
"I",
"fitted",
"an",
"exponential",
"curve",
"and",
"it",
"makes",
"a",
"slightly",
"different",
"regression",
"you",
"might",
"ask",
"yourself",
"do",
"you",
"think",
"this",
"line",
"models",
"the",
"data",
"better",
"okay",
"now",
"here's",
"another",
"valid",
"regression",
"I",
"did",
"where",
"I",
"fit",
"a",
"more",
"complicated",
"equation",
"this",
"line",
"doesn't",
"look",
"to",
"me",
"like",
"it",
"models",
"the",
"data",
"very",
"well",
"but",
"it",
"goes",
"through",
"every",
"point",
"we",
"have",
"meaning",
"that",
"it",
"models",
"the",
"training",
"data",
"perfectly",
"so",
"what's",
"happening",
"here",
"is",
"something",
"called",
"overfitting",
"I'm",
"a",
"complicated",
"line",
"went",
"through",
"all",
"the",
"points",
"perfectly",
"but",
"it",
"won't",
"generalize",
"as",
"well",
"to",
"new",
"points",
"that",
"we",
"haven't",
"seen",
"before",
"and",
"as",
"models",
"become",
"more",
"complicated",
"they",
"tend",
"to",
"overfit",
"we",
"don't",
"usually",
"worry",
"too",
"much",
"about",
"overfitting",
"in",
"a",
"statistics",
"101",
"class",
"with",
"linear",
"regression",
"because",
"it's",
"such",
"a",
"simple",
"model",
"that",
"it's",
"hard",
"for",
"it",
"to",
"overfit",
"but",
"as",
"our",
"equations",
"get",
"more",
"complicated",
"and",
"our",
"data",
"gets",
"more",
"complicated",
"overfitting",
"becomes",
"more",
"and",
"more",
"of",
"an",
"issue",
"the",
"graph",
"on",
"the",
"left",
"is",
"modeling",
"the",
"data",
"in",
"a",
"simple",
"way",
"but",
"it's",
"probably",
"missing",
"some",
"of",
"the",
"pattern",
"in",
"the",
"data",
"the",
"graph",
"on",
"the",
"right",
"is",
"actually",
"touching",
"all",
"the",
"dots",
"meaning",
"that",
"it's",
"perfectly",
"fitting",
"the",
"training",
"data",
"but",
"it's",
"probably",
"overfitting",
"the",
"training",
"data",
"the",
"graph",
"in",
"the",
"middle",
"gets",
"closer",
"to",
"the",
"training",
"data",
"points",
"but",
"doesn't",
"get",
"as",
"close",
"to",
"the",
"graph",
"on",
"the",
"right",
"but",
"maybe",
"models",
"the",
"data",
"better",
"than",
"the",
"graph",
"on",
"the",
"left",
"as",
"we",
"collect",
"more",
"and",
"more",
"data",
"in",
"the",
"world",
"we're",
"able",
"to",
"build",
"more",
"and",
"more",
"complicated",
"models",
"deep",
"learning",
"really",
"describes",
"a",
"trend",
"towards",
"extremely",
"complicated",
"equations",
"with",
"potentially",
"millions",
"of",
"parameters",
"and",
"millions",
"of",
"data",
"points",
"so",
"how",
"complicated",
"should",
"we",
"make",
"our",
"models",
"and",
"how",
"should",
"we",
"constrain",
"them",
"to",
"keep",
"them",
"from",
"overfitting",
"that's",
"what",
"machine",
"learning",
"research",
"is",
"really",
"all",
"about",
"so",
"these",
"single",
"graphs",
"might",
"seem",
"like",
"toy",
"problems",
"but",
"predicting",
"one",
"variable",
"from",
"one",
"other",
"variable",
"can",
"get",
"really",
"complicated",
"on",
"its",
"own",
"if",
"you",
"could",
"predict",
"where",
"this",
"graph",
"of",
"the",
"stock",
"market",
"is",
"going",
"better",
"than",
"anyone",
"else",
"you",
"can",
"make",
"a",
"money",
"so",
"another",
"fundamental",
"question",
"in",
"deep",
"learning",
"is",
"actually",
"what",
"are",
"we",
"optimizing",
"these",
"two",
"lines",
"both",
"try",
"to",
"go",
"as",
"close",
"as",
"possible",
"to",
"the",
"points",
"in",
"the",
"graph",
"or",
"all",
"the",
"points",
"in",
"the",
"training",
"data",
"but",
"they",
"actually",
"of",
"a",
"different",
"definition",
"of",
"close",
"one",
"of",
"the",
"lines",
"here",
"is",
"the",
"line",
"with",
"the",
"smallest",
"sum",
"of",
"the",
"vertical",
"distance",
"from",
"the",
"line",
"to",
"all",
"the",
"points",
"while",
"the",
"other",
"is",
"optimizing",
"the",
"smallest",
"squared",
"sum",
"of",
"the",
"vertical",
"distance",
"it",
"might",
"seem",
"like",
"a",
"small",
"difference",
"but",
"clearly",
"these",
"graphs",
"look",
"very",
"different",
"if",
"you",
"just",
"do",
"a",
"default",
"regression",
"you're",
"usually",
"optimizing",
"the",
"square",
"of",
"the",
"distance",
"which",
"you",
"also",
"may",
"know",
"as",
"the",
"squared",
"error",
"can",
"you",
"tell",
"which",
"line",
"is",
"optimizing",
"which",
"metric",
"if",
"you",
"want",
"you",
"could",
"pause",
"the",
"video",
"and",
"think",
"about",
"it",
"because",
"I'm",
"about",
"to",
"tell",
"you",
"okay",
"you're",
"back",
"I'm",
"sure",
"you",
"thought",
"deeply",
"about",
"which",
"is",
"optimizing",
"squared",
"which",
"is",
"optimizing",
"absolute",
"error",
"and",
"you",
"probably",
"concluded",
"that",
"the",
"left",
"is",
"optimizing",
"the",
"squared",
"error",
"and",
"the",
"right",
"is",
"optimizing",
"the",
"absolute",
"error",
"when",
"you",
"optimize",
"the",
"squared",
"error",
"the",
"outliers",
"actually",
"affect",
"the",
"line",
"a",
"lot",
"more",
"pulling",
"it",
"away",
"from",
"the",
"majority",
"of",
"points",
"to",
"me",
"the",
"left",
"doesn't",
"look",
"as",
"good",
"of",
"a",
"fit",
"as",
"the",
"graph",
"on",
"the",
"right",
"but",
"actually",
"if",
"you",
"model",
"this",
"in",
"Excel",
"or",
"any",
"normal",
"stats",
"program",
"it'll",
"probably",
"default",
"to",
"the",
"graph",
"on",
"the",
"Left",
"which",
"actually",
"might",
"not",
"be",
"what",
"you",
"really",
"want",
"so",
"which",
"model",
"is",
"really",
"better",
"it",
"actually",
"depends",
"on",
"what",
"you're",
"doing",
"and",
"what's",
"happening",
"downstream",
"from",
"your",
"model",
"in",
"all",
"the",
"graphs",
"we've",
"looked",
"at",
"so",
"far",
"we",
"only",
"have",
"one",
"input",
"and",
"one",
"output",
"but",
"usually",
"we",
"have",
"more",
"than",
"one",
"input",
"so",
"here",
"we",
"have",
"not",
"just",
"the",
"age",
"of",
"the",
"chicken",
"we",
"add",
"the",
"type",
"of",
"diet",
"that",
"it",
"was",
"exposed",
"to",
"encoded",
"as",
"a",
"number",
"now",
"from",
"those",
"two",
"variables",
"we",
"want",
"to",
"predict",
"weight",
"this",
"is",
"something",
"we",
"actually",
"still",
"can",
"do",
"in",
"Excel",
"we",
"have",
"input",
"training",
"data",
"and",
"output",
"we",
"can",
"use",
"linear",
"regression",
"but",
"it's",
"harder",
"to",
"visualize",
"what's",
"going",
"on",
"this",
"makes",
"it",
"actually",
"easier",
"to",
"overfit",
"and",
"we're",
"getting",
"closer",
"to",
"what's",
"traditionally",
"thought",
"of",
"as",
"machine",
"learning",
"and",
"deep",
"learning",
"back",
"to",
"our",
"cat",
"classification",
"problem",
"what",
"does",
"this",
"have",
"to",
"do",
"with",
"what",
"we've",
"been",
"talking",
"about",
"so",
"far",
"here's",
"the",
"statistics",
"API",
"and",
"it's",
"very",
"strict",
"we",
"have",
"an",
"input",
"that",
"has",
"to",
"be",
"a",
"fixed",
"list",
"of",
"numbers",
"in",
"our",
"first",
"example",
"it",
"was",
"a",
"single",
"number",
"in",
"our",
"multivariable",
"regression",
"example",
"it",
"was",
"two",
"numbers",
"check",
"age",
"and",
"check",
"diet",
"our",
"model",
"also",
"outputs",
"a",
"fixed",
"list",
"of",
"numbers",
"so",
"far",
"all",
"of",
"our",
"models",
"have",
"output",
"only",
"one",
"number",
"the",
"way",
"we",
"generate",
"our",
"statistical",
"models",
"is",
"by",
"feeding",
"in",
"a",
"set",
"of",
"examples",
"in",
"machine",
"learning",
"this",
"is",
"usually",
"called",
"training",
"data",
"and",
"the",
"examples",
"always",
"have",
"the",
"fixed",
"inputs",
"and",
"outputs",
"in",
"the",
"case",
"of",
"the",
"chicks",
"we",
"fed",
"in",
"five",
"lists",
"of",
"age",
"and",
"weight",
"and",
"built",
"a",
"linear",
"regression",
"model",
"it",
"turns",
"out",
"and",
"a",
"lot",
"of",
"people",
"are",
"surprised",
"by",
"this",
"the",
"machine",
"learning",
"API",
"is",
"identical",
"to",
"the",
"statistics",
"API",
"we",
"usually",
"have",
"more",
"than",
"one",
"input",
"and",
"we",
"often",
"have",
"more",
"than",
"one",
"output",
"but",
"the",
"inputs",
"and",
"outputs",
"still",
"have",
"to",
"be",
"fixed",
"length",
"lists",
"of",
"numbers",
"and",
"behind",
"the",
"scenes",
"we're",
"still",
"just",
"generating",
"a",
"model",
"from",
"the",
"training",
"data",
"just",
"like",
"with",
"linear",
"regression",
"the",
"model",
"is",
"just",
"an",
"equation",
"but",
"in",
"machine",
"learning",
"we",
"think",
"of",
"it",
"as",
"a",
"very",
"complicated",
"equation",
"we",
"search",
"for",
"the",
"best",
"model",
"according",
"to",
"some",
"metric",
"or",
"some",
"loss",
"function",
"but",
"often",
"that",
"metric",
"is",
"just",
"squared",
"error",
"in",
"the",
"same",
"way",
"that",
"we",
"use",
"it",
"for",
"linear",
"regression",
"training",
"is",
"just",
"searching",
"for",
"the",
"best",
"model",
"according",
"to",
"some",
"metric",
"or",
"loss",
"function",
"and",
"often",
"that",
"loss",
"function",
"is",
"just",
"squared",
"error",
"the",
"same",
"as",
"we",
"normally",
"use",
"for",
"linear",
"regression",
"so",
"what",
"are",
"some",
"of",
"the",
"machine",
"learning",
"techniques",
"besides",
"linear",
"regression",
"and",
"why",
"would",
"we",
"pick",
"one",
"over",
"the",
"other",
"it",
"actually",
"depends",
"a",
"lot",
"on",
"what",
"kind",
"of",
"overfitting",
"we're",
"worried",
"about",
"how",
"much",
"training",
"data",
"we",
"have",
"and",
"how",
"many",
"input",
"and",
"output",
"variables",
"there",
"are",
"a",
"very",
"popular",
"and",
"useful",
"Python",
"library",
"called",
"scikit-learn",
"that",
"you",
"may",
"have",
"used",
"actually",
"built",
"a",
"fantastic",
"flow",
"chart",
"that",
"summarizes",
"five",
"years",
"of",
"grad",
"school",
"and",
"helps",
"you",
"pick",
"the",
"best",
"possible",
"model",
"based",
"on",
"these",
"aspects",
"of",
"your",
"training",
"data",
"another",
"way",
"to",
"think",
"about",
"model",
"to",
"use",
"is",
"to",
"look",
"at",
"what",
"other",
"people",
"are",
"doing",
"kaggle",
"a",
"super",
"cool",
"data",
"science",
"platform",
"had",
"a",
"survey",
"of",
"all",
"its",
"machine",
"learning",
"practitioners",
"and",
"asked",
"them",
"which",
"techniques",
"they",
"use",
"in",
"their",
"day-to-day",
"jobs",
"you've",
"probably",
"heard",
"lately",
"that",
"neural",
"networks",
"are",
"becoming",
"popular",
"but",
"good",
"old",
"logistic",
"regression",
"which",
"is",
"just",
"a",
"modification",
"of",
"the",
"linear",
"regression",
"we",
"were",
"talking",
"about",
"earlier",
"it's",
"still",
"really",
"the",
"most",
"commonly",
"used",
"technique",
"another",
"popular",
"machine",
"learning",
"technique",
"you",
"may",
"have",
"heard",
"of",
"is",
"called",
"decision",
"trees",
"one",
"thing",
"I",
"like",
"about",
"this",
"algorithm",
"is",
"it's",
"really",
"easy",
"to",
"explain",
"what",
"it",
"does",
"is",
"it",
"picks",
"one",
"of",
"the",
"input",
"variables",
"and",
"it",
"chooses",
"a",
"threshold",
"to",
"say",
"if",
"the",
"variables",
"above",
"the",
"threshold",
"go",
"left",
"and",
"if",
"the",
"variables",
"below",
"the",
"threshold",
"go",
"right",
"and",
"then",
"at",
"the",
"leaves",
"of",
"this",
"tree",
"it",
"predicts",
"a",
"specific",
"number",
"for",
"the",
"output",
"a",
"popular",
"and",
"useful",
"variant",
"of",
"the",
"decision",
"tree",
"algorithm",
"is",
"called",
"decision",
"forests",
"or",
"random",
"forests",
"when",
"we",
"use",
"decision",
"forests",
"we",
"actually",
"build",
"up",
"hundreds",
"or",
"thousands",
"or",
"tens",
"of",
"thousands",
"of",
"decision",
"trees",
"we",
"like",
"each",
"of",
"those",
"trees",
"make",
"a",
"prediction",
"and",
"then",
"we",
"aggregate",
"the",
"predictions",
"in",
"some",
"way",
"neural",
"networks",
"are",
"another",
"type",
"of",
"model",
"that",
"recently",
"has",
"become",
"very",
"popular",
"and",
"has",
"had",
"a",
"lot",
"of",
"breakthroughs",
"so",
"we're",
"gonna",
"go",
"really",
"deep",
"on",
"it",
"in",
"this",
"video",
"series",
"and",
"when",
"we",
"talk",
"about",
"deep",
"learning",
"we're",
"usually",
"talking",
"about",
"neural",
"networks",
"but",
"one",
"thing",
"I",
"really",
"want",
"to",
"demystify",
"here",
"is",
"despite",
"the",
"evocative",
"name",
"neural",
"networks",
"they're",
"really",
"just",
"an",
"equation",
"like",
"anything",
"else",
"and",
"the",
"inputs",
"and",
"the",
"outputs",
"are",
"just",
"like",
"all",
"these",
"other",
"machine",
"learning",
"techniques",
"and",
"statistical",
"techniques",
"that",
"we've",
"been",
"talking",
"about",
"ok",
"so",
"how",
"do",
"we",
"get",
"this",
"cat",
"problem",
"into",
"this",
"machine",
"learning",
"API",
"that",
"we",
"keep",
"talking",
"about",
"this",
"picture",
"of",
"a",
"cat",
"is",
"not",
"a",
"fixed",
"array",
"of",
"numbers",
"and",
"the",
"output",
"is",
"definitely",
"not",
"a",
"fixed",
"array",
"of",
"numbers",
"so",
"first",
"we",
"have",
"to",
"turn",
"the",
"cat",
"image",
"into",
"a",
"fix",
"like",
"the",
"numbers",
"and",
"we",
"can",
"do",
"this",
"by",
"taking",
"the",
"red",
"green",
"and",
"blue",
"values",
"from",
"each",
"pixel",
"and",
"putting",
"them",
"into",
"a",
"long",
"list",
"then",
"we",
"have",
"to",
"make",
"our",
"network",
"output",
"something",
"we",
"can",
"interpret",
"as",
"a",
"label",
"light",
"cat",
"one",
"way",
"to",
"do",
"this",
"is",
"to",
"set",
"up",
"our",
"network",
"to",
"output",
"a",
"number",
"for",
"any",
"particular",
"type",
"of",
"image",
"we",
"might",
"see",
"here",
"we",
"have",
"a",
"network",
"that's",
"outputting",
"four",
"numbers",
"a",
"cat",
"score",
"a",
"fish",
"score",
"a",
"dog",
"score",
"and",
"an",
"other",
"score",
"and",
"we're",
"gonna",
"interpret",
"one",
"in",
"the",
"cat",
"score",
"to",
"me",
"that",
"the",
"image",
"is",
"a",
"cat",
"now",
"we",
"have",
"a",
"machine",
"learning",
"problem",
"in",
"the",
"machine",
"learning",
"API",
"so",
"now",
"behind",
"the",
"scenes",
"we",
"can",
"build",
"a",
"neural",
"network",
"we",
"can",
"build",
"linear",
"regression",
"or",
"we",
"can",
"build",
"a",
"decision",
"tree",
"or",
"anything",
"else",
"we",
"might",
"want",
"to",
"solve",
"this",
"machine",
"learning",
"problem",
"actually",
"though",
"there's",
"one",
"more",
"important",
"step",
"which",
"is",
"that",
"we",
"need",
"to",
"find",
"more",
"images",
"of",
"cats",
"this",
"is",
"called",
"training",
"data",
"collection",
"and",
"it's",
"often",
"the",
"most",
"important",
"and",
"usually",
"overlooked",
"step",
"these",
"models",
"are",
"just",
"mathematical",
"equations",
"they",
"have",
"no",
"common",
"sense",
"built",
"into",
"them",
"all",
"they",
"can",
"do",
"is",
"find",
"patterns",
"in",
"the",
"numbers",
"so",
"for",
"example",
"if",
"all",
"the",
"cats",
"in",
"our",
"training",
"data",
"look",
"the",
"same",
"no",
"machine",
"learning",
"model",
"will",
"be",
"able",
"to",
"figure",
"out",
"what",
"a",
"cat",
"actually",
"is",
"we",
"also",
"need",
"to",
"find",
"examples",
"of",
"anything",
"else",
"that",
"we",
"want",
"to",
"classify",
"it",
"training",
"that",
"it",
"is",
"actually",
"so",
"important",
"to",
"machine",
"learning",
"and",
"so",
"important",
"to",
"me",
"personally",
"that",
"over",
"a",
"decade",
"ago",
"I",
"started",
"a",
"company",
"called",
"figure",
"8",
"that",
"helps",
"companies",
"collect",
"training",
"data",
"if",
"you",
"need",
"more",
"training",
"data",
"and",
"if",
"you're",
"doing",
"machine",
"learning",
"you",
"probably",
"need",
"more",
"training",
"data",
"you",
"actually",
"could",
"check",
"out",
"figure",
"it",
"and",
"use",
"it",
"or",
"you",
"could",
"try",
"one",
"of",
"its",
"vastly",
"inferior",
"competitors",
"it",
"might",
"seem",
"trivial",
"to",
"turn",
"images",
"into",
"a",
"fixed",
"array",
"of",
"numbers",
"from",
"just",
"using",
"the",
"bitmap",
"values",
"but",
"what",
"about",
"something",
"like",
"speech",
"what",
"if",
"we",
"want",
"to",
"build",
"a",
"mini",
"Alexa",
"that",
"classifies",
"sounds",
"it's",
"a",
"hello",
"or",
"goodbye",
"feel",
"free",
"to",
"pause",
"the",
"video",
"and",
"ponder",
"how",
"we",
"would",
"do",
"this",
"it",
"turns",
"out",
"there's",
"no",
"real",
"consensus",
"on",
"the",
"best",
"way",
"to",
"turn",
"audio",
"into",
"numbers",
"but",
"one",
"trendy",
"way",
"to",
"do",
"this",
"now",
"is",
"to",
"just",
"use",
"the",
"waveform",
"of",
"the",
"sound",
"as",
"a",
"list",
"of",
"numbers",
"now",
"there's",
"one",
"problem",
"with",
"this",
"which",
"is",
"that",
"all",
"the",
"sounds",
"will",
"be",
"different",
"lengths",
"and",
"actually",
"all",
"the",
"arrays",
"in",
"our",
"data",
"have",
"to",
"be",
"the",
"same",
"length",
"but",
"one",
"simple",
"obvious",
"way",
"to",
"deal",
"with",
"this",
"is",
"truncate",
"the",
"sounds",
"to",
"a",
"fixed",
"length",
"of",
"time",
"or",
"assume",
"that",
"the",
"sounds",
"are",
"completely",
"quiet",
"once",
"the",
"utterance",
"is",
"complete",
"there",
"are",
"actually",
"several",
"other",
"common",
"ways",
"to",
"do",
"this",
"transformation",
"and",
"it",
"turns",
"out",
"that",
"the",
"transform",
"a",
"in",
"itself",
"from",
"the",
"data",
"into",
"this",
"very",
"constrained",
"API",
"of",
"machine",
"learning",
"is",
"often",
"the",
"most",
"critical",
"choice",
"in",
"building",
"a",
"machine",
"learning",
"model",
"what",
"if",
"we",
"don't",
"have",
"audio",
"or",
"video",
"what",
"if",
"we",
"have",
"text",
"oftentimes",
"companies",
"want",
"to",
"classify",
"it",
"tweets",
"about",
"them",
"as",
"being",
"positive",
"or",
"negative",
"about",
"their",
"brand",
"I",
"actually",
"have",
"a",
"video",
"later",
"on",
"that",
"that",
"goes",
"into",
"detail",
"about",
"exactly",
"how",
"to",
"do",
"this",
"in",
"build",
"models",
"but",
"for",
"now",
"let's",
"just",
"think",
"about",
"how",
"we",
"transform",
"that",
"text",
"into",
"numbers",
"again",
"amazingly",
"there's",
"no",
"real",
"consensus",
"on",
"how",
"to",
"do",
"this",
"transformation",
"one",
"very",
"common",
"approach",
"is",
"actually",
"to",
"make",
"a",
"list",
"of",
"all",
"the",
"words",
"in",
"the",
"English",
"language",
"or",
"whatever",
"languages",
"your",
"text",
"is",
"in",
"and",
"count",
"the",
"number",
"of",
"times",
"each",
"word",
"occurs",
"into",
"your",
"document",
"you",
"end",
"up",
"with",
"a",
"list",
"of",
"lots",
"of",
"zeros",
"but",
"actually",
"fits",
"our",
"criteria",
"it's",
"always",
"the",
"same",
"length",
"and",
"it's",
"always",
"full",
"of",
"numbers",
"here's",
"a",
"harder",
"one",
"this",
"is",
"common",
"in",
"self-driving",
"cars",
"we",
"want",
"to",
"look",
"at",
"every",
"single",
"picture",
"an",
"image",
"and",
"classify",
"what",
"objects",
"each",
"pixel",
"corresponds",
"to",
"so",
"for",
"example",
"you",
"can't",
"just",
"say",
"there's",
"a",
"road",
"in",
"the",
"image",
"we",
"have",
"to",
"say",
"which",
"parts",
"the",
"image",
"are",
"the",
"road",
"and",
"which",
"parts",
"of",
"the",
"image",
"are",
"a",
"sidewalk",
"so",
"here's",
"an",
"example",
"image",
"and",
"here's",
"actually",
"an",
"example",
"output",
"how",
"does",
"this",
"work",
"once",
"again",
"there's",
"more",
"than",
"one",
"way",
"to",
"do",
"it",
"and",
"this",
"video",
"will",
"probably",
"be",
"soon",
"out-of-date",
"but",
"the",
"most",
"common",
"way",
"to",
"do",
"it",
"right",
"now",
"is",
"to",
"literally",
"treat",
"the",
"input",
"of",
"numbers",
"and",
"the",
"output",
"of",
"numbers",
"as",
"arrays",
"of",
"the",
"same",
"length",
"so",
"in",
"this",
"case",
"the",
"output",
"numbers",
"are",
"actually",
"labels",
"of",
"what's",
"given",
"in",
"each",
"pixel",
"here's",
"an",
"even",
"trickier",
"one",
"bounding",
"boxes",
"we",
"want",
"to",
"put",
"boxes",
"around",
"the",
"things",
"in",
"the",
"image",
"that",
"we",
"care",
"about",
"there",
"could",
"be",
"any",
"number",
"of",
"things",
"that",
"we",
"care",
"about",
"but",
"remember",
"our",
"output",
"has",
"to",
"be",
"a",
"fixed",
"length",
"one",
"way",
"to",
"do",
"it",
"and",
"there",
"are",
"actually",
"other",
"good",
"ways",
"to",
"do",
"it",
"but",
"one",
"way",
"is",
"to",
"generate",
"a",
"candidate",
"list",
"of",
"possible",
"boxes",
"and",
"then",
"run",
"a",
"classifier",
"that",
"looks",
"at",
"the",
"pixels",
"in",
"an",
"image",
"and",
"the",
"candidate",
"box",
"itself",
"and",
"classifies",
"not",
"only",
"what's",
"in",
"the",
"box",
"but",
"whether",
"or",
"not",
"that",
"box",
"is",
"a",
"good",
"image",
"that",
"should",
"be",
"considered",
"a",
"bounding",
"box",
"a",
"downside",
"of",
"this",
"method",
"is",
"that",
"you",
"have",
"to",
"consider",
"potentially",
"thousands",
"or",
"millions",
"of",
"classifications",
"per",
"image",
"you",
"may",
"need",
"to",
"look",
"at",
"that",
"last",
"part",
"a",
"few",
"times",
"to",
"really",
"get",
"it",
"I",
"know",
"that",
"I",
"had",
"to",
"but",
"the",
"key",
"takeaway",
"here",
"is",
"that",
"framing",
"the",
"machine",
"learning",
"problem",
"really",
"really",
"matters",
"for",
"example",
"with",
"object",
"recognition",
"the",
"way",
"we",
"frame",
"the",
"problem",
"earlier",
"you",
"have",
"no",
"chance",
"of",
"seeing",
"an",
"object",
"or",
"recognizing",
"an",
"object",
"that",
"you've",
"never",
"seen",
"in",
"your",
"training",
"data",
"so",
"how",
"would",
"you",
"ever",
"recognize",
"an",
"object",
"that",
"you",
"haven't",
"seen",
"before",
"people",
"can",
"do",
"this",
"one",
"way",
"to",
"possibly",
"recognize",
"an",
"object",
"that",
"you",
"haven't",
"had",
"in",
"your",
"training",
"data",
"is",
"to",
"actually",
"frame",
"the",
"problem",
"instead",
"of",
"recognizing",
"a",
"single",
"object",
"as",
"recognizing",
"if",
"two",
"objects",
"are",
"the",
"same",
"so",
"now",
"our",
"input",
"is",
"actually",
"two",
"objects",
"and",
"the",
"classification",
"task",
"is",
"are",
"these",
"two",
"objects",
"the",
"same",
"thing",
"are",
"not",
"the",
"same",
"thing",
"this",
"is",
"called",
"a",
"pairwise",
"classifier",
"and",
"this",
"actually",
"sometimes",
"can",
"classify",
"objects",
"that's",
"never",
"seen",
"before",
"like",
"the",
"eggbeater",
"in",
"this",
"diagram",
"voice",
"recognition",
"identifying",
"endangered",
"animals",
"and",
"aerial",
"photography",
"building",
"crazy",
"face",
"recognizing",
"drones",
"what",
"are",
"these",
"applications",
"all",
"have",
"in",
"common",
"why",
"do",
"we",
"think",
"of",
"them",
"as",
"machine",
"learning",
"applications",
"it's",
"because",
"we're",
"able",
"to",
"fit",
"them",
"into",
"this",
"very",
"constrained",
"specific",
"API",
"that's",
"common",
"to",
"all",
"machine",
"learning",
"and",
"deep",
"learning",
"problems",
"and",
"so",
"if",
"you're",
"thinking",
"okay",
"is",
"my",
"problem",
"suitable",
"for",
"machine",
"learning",
"or",
"deep",
"learning",
"what",
"you",
"should",
"be",
"asking",
"yourself",
"is",
"can",
"I",
"turn",
"it",
"into",
"this",
"kind",
"of",
"problem",
"where",
"I",
"have",
"a",
"fixed",
"length",
"of",
"numbers",
"as",
"input",
"and",
"if",
"fixed",
"like",
"the",
"numbers",
"is",
"output",
"and",
"can",
"I",
"collect",
"training",
"data",
"or",
"examples",
"to",
"show",
"my",
"model",
"to",
"build",
"my",
"machine",
"learning",
"system",
"if",
"the",
"answer",
"to",
"those",
"questions",
"are",
"yes",
"then",
"you",
"really",
"do",
"have",
"a",
"machine",
"learning",
"problem",
"and",
"hopefully",
"that's",
"got",
"you",
"excited",
"enough",
"about",
"all",
"the",
"applications",
"of",
"machine",
"learning",
"that",
"you",
"want",
"to",
"watch",
"further",
"videos",
"that",
"explain",
"actually",
"how",
"to",
"build",
"these",
"models",
"and",
"how",
"to",
"deploy",
"these",
"models",
"and",
"we're",
"gonna",
"keep",
"creating",
"these",
"videos",
"so",
"you",
"should",
"probably",
"subscribe",
"so",
"that",
"you're",
"the",
"first",
"to",
"know",
"when",
"a",
"new",
"video",
"comes"
]
| [
"Today",
"",
"",
"",
"",
"",
"",
"picture.",
"What",
"",
"",
"learning?",
"What",
"",
"",
"learning?",
"How",
"",
"",
"",
"work?",
"And",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"here,",
"This",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"learning,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Really",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Scenes",
"",
"",
"",
"",
"",
"",
"",
"",
"magic,",
"",
"",
"",
"",
"",
"",
"",
"",
"Ah,",
"",
"",
"",
"",
"problem.",
"And",
"",
"",
"",
"",
"",
"problem.",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"why",
"",
"",
"",
"",
"",
"",
"The",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Startups",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"technology,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Even",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"tomorrow,",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"The",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Shivon",
"Zilis",
"",
"",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"all,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Deep",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"It",
"",
"",
"",
"",
"",
"",
"photos.",
"It",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"It",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"Come",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"outputs.",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"Machine",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Text",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"This",
"",
"first.",
"Let's",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"learning.",
"Maybe",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Machine",
"",
"",
"",
"",
"",
"",
"",
"Probably",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"And",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Most",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"problem.",
"We",
"",
"",
"",
"",
"",
"",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"cat.",
"So,",
"",
"",
"",
"work?",
"So",
"",
"",
"",
"",
"",
"question,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"There's",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Where",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Imagine",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"That's",
"",
"",
"old.",
"How",
"",
"",
"",
"",
"",
"",
"weigh?",
"Here,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"You",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"You",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"If",
"",
"",
"",
"",
"",
"",
"",
"data,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"This",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"This",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"That's",
"",
"regression,",
"",
"",
"",
"",
"",
"",
"too.",
"Even",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"You",
"",
"",
"yourself.",
"Do",
"",
"",
"",
"",
"",
"",
"",
"better?",
"Okay,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"This",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"well,",
"",
"",
"",
"",
"",
"",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"As",
"",
"",
"",
"",
"",
"",
"",
"",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Because",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"The",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"way,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"The",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"We're",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Extremely",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"overfitting?",
"That's",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"If",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"optimizing?",
"These",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Or",
"",
"",
"",
"",
"",
"",
"data,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"One",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"From",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"It",
"",
"",
"",
"",
"",
"difference.",
"But",
"",
"",
"",
"",
"",
"",
"If",
"",
"",
"",
"",
"",
"regression,",
"",
"",
"",
"",
"",
"",
"",
"distance,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Can",
"",
"",
"",
"",
"",
"",
"",
"",
"if?",
"You",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Okay,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"You",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"error,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Me",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"It'll",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"better?",
"It",
"",
"",
"",
"",
"",
"",
"And",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"far.",
"We",
"",
"",
"",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Now",
"",
"",
"",
"",
"",
"",
"",
"",
"weight.",
"This",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"regression,",
"",
"",
"",
"",
"",
"",
"",
"",
"This",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Back",
"",
"",
"cat.",
"Classification",
"",
"What",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"far?",
"Here's",
"",
"",
"",
"",
"",
"",
"",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"It",
"",
"",
"",
"",
"",
"",
"",
"",
"example.",
"It",
"",
"",
"",
"",
"",
"",
"",
"",
"Our",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"far.",
"All",
"",
"",
"",
"",
"",
"",
"",
"",
"The",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Outputs",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"It",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"We're",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Just",
"",
"",
"",
"regression.",
"The",
"",
"",
"",
"",
"equation,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Training",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Metric",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"other?",
"It",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Five",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Another",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"kaggle,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Techniques",
"",
"",
"",
"",
"",
"",
"You've",
"",
"",
"",
"",
"",
"",
"",
"",
"popular,",
"",
"",
"",
"",
"regression,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"We",
"",
"",
"",
"",
"It's",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"One",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"What",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Popular",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"When",
"",
"",
"",
"forests,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Neural",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"learning,",
"",
"",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"They're",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Machine",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Ok.",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Not",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Then",
"",
"",
"",
"",
"",
"",
"Output",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"One",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"here,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Interpret",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Now",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"else.",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"Actually,",
"though,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"This",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"These",
"",
"",
"",
"",
"equations.",
"They",
"",
"",
"",
"",
"",
"",
"",
"All",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Look",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Training",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"And",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"You",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"It",
"",
"",
"",
"To",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"values,",
"",
"",
"",
"",
"",
"speech?",
"What",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Feel",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"It",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"To",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Or",
"",
"",
"",
"",
"",
"",
"quiet.",
"Once",
"",
"",
"",
"",
"There",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"From",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"What",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"text?",
"Oftentimes",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"models,",
"",
"For",
"now,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Again",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"One",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"And",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"It's",
"",
"",
"",
"length,",
"",
"",
"",
"",
"",
"",
"Here's",
"",
"",
"",
"This",
"",
"",
"",
"",
"cars.",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So,",
"",
"example,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"output.",
"How",
"",
"",
"work?",
"Once",
"",
"There's",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"out-of-date,",
"",
"",
"",
"",
"",
"",
"",
"",
"Right",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"case,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Here's",
"",
"",
"",
"",
"Bounding",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"There",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"One",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Classifier",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Not",
"",
"",
"",
"",
"box,",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"image.",
"That",
"",
"",
"",
"",
"",
"",
"A",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"You",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"it.",
"",
"",
"",
"",
"",
"",
"But",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"matters?",
"For",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"You",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"this?",
"One",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Recognizing",
"",
"",
"",
"",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"This",
"",
"",
"",
"",
"",
"And",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Building",
"",
"",
"",
"drones.",
"What",
"",
"",
"",
"",
"",
"",
"common?",
"Why",
"",
"",
"",
"",
"",
"",
"",
"",
"applications?",
"It's",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Specific",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"And",
"",
"",
"",
"",
"",
"",
"",
"",
"Suitable",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"this?",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Can",
"",
"",
"",
"",
"or?",
"Examples",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Hopefully",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Should",
"",
"",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
""
]
| [
1,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
2,
1,
0,
0,
2,
1,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
3,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
7,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
3,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
2,
3,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
2,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
2,
3,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
3,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
2,
1,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
2,
1,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
3,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
3,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
1,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
1,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
1,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
3,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
2,
1,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0
]
|
GVKDa5hxUZE
| [
"so",
"in",
"the",
"last",
"video",
"we",
"built",
"the",
"classifier",
"that",
"could",
"predict",
"whether",
"or",
"not",
"a",
"handwritten",
"digit",
"was",
"a",
"5",
"or",
"not",
"and",
"in",
"this",
"video",
"we're",
"gonna",
"take",
"those",
"techniques",
"and",
"generalize",
"them",
"so",
"that",
"we",
"have",
"a",
"neural",
"network",
"that",
"can",
"predict",
"exactly",
"what",
"digit",
"we're",
"dealing",
"with",
"not",
"just",
"a",
"5",
"but",
"a",
"4",
"3",
"and",
"so",
"on",
"and",
"along",
"the",
"way",
"we're",
"gonna",
"learn",
"a",
"bunch",
"of",
"new",
"techniques",
"that",
"are",
"generalizable",
"to",
"making",
"all",
"neural",
"networks",
"work",
"better",
"the",
"perceptron",
"algorithm",
"if",
"you",
"think",
"about",
"it",
"it's",
"very",
"very",
"constrained",
"it",
"can",
"only",
"output",
"a",
"single",
"number",
"so",
"how",
"do",
"we",
"take",
"the",
"output",
"of",
"a",
"single",
"number",
"and",
"turn",
"that",
"into",
"a",
"prediction",
"for",
"each",
"possible",
"digit",
"you",
"might",
"if",
"you",
"feel",
"up",
"for",
"it",
"stop",
"the",
"video",
"now",
"and",
"think",
"about",
"it",
"welcome",
"back",
"I'm",
"gonna",
"tell",
"you",
"how",
"to",
"do",
"it",
"one",
"way",
"you",
"might",
"have",
"thought",
"of",
"it",
"just",
"not",
"how",
"we're",
"going",
"to",
"do",
"it",
"is",
"just",
"have",
"the",
"number",
"be",
"between",
"0",
"and",
"10",
"instead",
"of",
"0",
"and",
"1",
"and",
"basically",
"rounded",
"it",
"down",
"and",
"say",
"okay",
"if",
"it",
"output",
"8.5",
"then",
"that's",
"an",
"8",
"if",
"it",
"outputs",
"7.2",
"then",
"we",
"pricked",
"it",
"adjust",
"to",
"7",
"and",
"for",
"a",
"number",
"of",
"reasons",
"that's",
"not",
"the",
"normal",
"way",
"to",
"do",
"it",
"so",
"we're",
"gonna",
"actually",
"do",
"it",
"a",
"different",
"way",
"which",
"is",
"we're",
"going",
"to",
"have",
"10",
"perceptrons",
"that",
"run",
"in",
"parallel",
"and",
"we're",
"basically",
"going",
"to",
"say",
"whichever",
"perceptron",
"outputs",
"the",
"highest",
"number",
"that's",
"going",
"to",
"be",
"the",
"digit",
"that",
"we",
"predict",
"so",
"we",
"basically",
"of",
"a",
"perceptron",
"responsible",
"for",
"classifying",
"zeros",
"and",
"then",
"another",
"one",
"responsible",
"for",
"classifying",
"ones",
"and",
"so",
"on",
"and",
"which",
"every",
"one",
"is",
"the",
"highest",
"output",
"that",
"is",
"the",
"prediction",
"that",
"our",
"whole",
"classifier",
"is",
"making",
"remember",
"Rosenblatt",
"the",
"perceptron",
"inventor",
"from",
"the",
"last",
"video",
"this",
"is",
"actually",
"the",
"same",
"as",
"what",
"he",
"did",
"so",
"he",
"would",
"set",
"up",
"multiple",
"light",
"bulbs",
"corresponding",
"to",
"each",
"class",
"and",
"whichever",
"light",
"bulb",
"lit",
"up",
"the",
"brightest",
"was",
"considered",
"to",
"be",
"the",
"class",
"of",
"the",
"image",
"in",
"our",
"case",
"we're",
"gonna",
"have",
"10",
"perceptrons",
"corresponding",
"to",
"each",
"digit",
"and",
"like",
"I",
"said",
"what",
"we'd",
"like",
"our",
"classifier",
"to",
"do",
"is",
"output",
"a",
"1",
"or",
"number",
"really",
"close",
"to",
"1",
"for",
"the",
"digit",
"that",
"was",
"actually",
"written",
"in",
"the",
"image",
"and",
"a",
"0",
"for",
"all",
"the",
"other",
"digits",
"and",
"what",
"we're",
"specifically",
"gonna",
"optimize",
"for",
"is",
"our",
"output",
"being",
"close",
"to",
"the",
"target",
"in",
"other",
"words",
"our",
"loss",
"function",
"will",
"be",
"the",
"difference",
"between",
"each",
"of",
"these",
"digits",
"and",
"each",
"of",
"these",
"outputs",
"that",
"we",
"want",
"so",
"here's",
"a",
"quick",
"question",
"to",
"kind",
"of",
"test",
"your",
"understanding",
"how",
"many",
"weights",
"does",
"our",
"algorithm",
"have",
"now",
"you",
"can",
"stop",
"and",
"think",
"about",
"this",
"one",
"too",
"I'll",
"get",
"back",
"to",
"in",
"a",
"minute",
"okay",
"let's",
"go",
"to",
"the",
"code",
"so",
"you",
"should",
"be",
"back",
"in",
"the",
"video",
"intro",
"directory",
"and",
"you",
"should",
"have",
"checked",
"out",
"my",
"code",
"go",
"back",
"to",
"the",
"previous",
"video",
"if",
"you",
"haven't",
"open",
"up",
"perceptron",
"-",
"linear",
"dot",
"pi",
"now",
"up",
"to",
"120",
"everything",
"is",
"exactly",
"the",
"same",
"as",
"in",
"our",
"last",
"tutorial",
"in",
"fact",
"it's",
"a",
"little",
"simpler",
"because",
"we",
"can",
"just",
"use",
"Y",
"underscore",
"test",
"as",
"our",
"output",
"instead",
"of",
"trying",
"to",
"make",
"a",
"new",
"variable",
"that",
"says",
"if",
"it's",
"a",
"5",
"or",
"not",
"now",
"in",
"lines",
"20",
"and",
"21",
"we",
"need",
"to",
"do",
"something",
"called",
"one-hot",
"in",
"coding",
"our",
"output",
"one",
"Hunton",
"coding",
"is",
"super",
"common",
"in",
"machine",
"learning",
"and",
"especially",
"in",
"neural",
"networks",
"you",
"basically",
"transform",
"your",
"data",
"which",
"is",
"a",
"number",
"into",
"a",
"list",
"of",
"ones",
"and",
"zeros",
"we",
"take",
"the",
"list",
"on",
"the",
"left",
"and",
"we",
"turn",
"it",
"into",
"the",
"table",
"on",
"the",
"right",
"so",
"a3",
"becomes",
"zero",
"zero",
"zero",
"one",
"zero",
"zero",
"zero",
"zero",
"zero",
"zero",
"now",
"why",
"do",
"we",
"do",
"it",
"it's",
"because",
"we",
"need",
"to",
"be",
"explicit",
"about",
"what",
"we",
"want",
"our",
"network",
"to",
"output",
"our",
"network",
"is",
"going",
"to",
"output",
"a",
"list",
"of",
"ten",
"numbers",
"one",
"from",
"each",
"perceptron",
"and",
"if",
"our",
"label",
"is",
"a",
"three",
"what",
"we",
"really",
"wanted",
"to",
"do",
"is",
"outputting",
"out",
"a",
"three",
"but",
"zero",
"zero",
"zero",
"one",
"zero",
"zero",
"zero",
"zero",
"zero",
"okay",
"so",
"lines",
"20",
"and",
"21",
"change",
"Y",
"underscore",
"train",
"and",
"Y",
"underscore",
"test",
"into",
"one",
"hot",
"encoded",
"variables",
"what",
"is",
"the",
"dimension",
"of",
"Y",
"underscore",
"train",
"before",
"this",
"transformation",
"it's",
"a",
"list",
"of",
"60,000",
"numbers",
"what",
"is",
"the",
"dimension",
"of",
"whiner",
"square",
"training",
"after",
"this",
"transformation",
"it's",
"a",
"matrix",
"with",
"60,000",
"rows",
"and",
"10",
"columns",
"where",
"every",
"entry",
"is",
"either",
"a",
"1",
"or",
"a",
"0",
"stop",
"the",
"video",
"and",
"rewind",
"if",
"you",
"need",
"to",
"think",
"about",
"this",
"or",
"you",
"go",
"into",
"the",
"code",
"and",
"print",
"out",
"the",
"variables",
"and",
"look",
"at",
"them",
"but",
"we'll",
"go",
"on",
"we",
"set",
"num",
"underscore",
"classes",
"from",
"the",
"shape",
"of",
"y",
"underscore",
"training",
"in",
"this",
"case",
"no",
"meter",
"square",
"classes",
"is",
"ten",
"of",
"corresponding",
"to",
"ten",
"digits",
"that",
"we",
"want",
"to",
"predict",
"now",
"our",
"model",
"looks",
"really",
"similar",
"to",
"the",
"model",
"we",
"saw",
"in",
"the",
"last",
"video",
"sequential",
"is",
"the",
"same",
"flatten",
"is",
"the",
"same",
"dense",
"now",
"takes",
"an",
"input",
"num",
"class",
"in",
"the",
"set",
"of",
"1",
"this",
"means",
"that",
"we're",
"training",
"ten",
"Tron's",
"and",
"her",
"output",
"will",
"be",
"a",
"list",
"of",
"size",
"10",
"instead",
"of",
"one",
"like",
"it",
"was",
"before",
"everything",
"else",
"is",
"the",
"same",
"for",
"now",
"and",
"we",
"can",
"run",
"her",
"model",
"and",
"you",
"know",
"your",
"model",
"might",
"run",
"slower",
"",
"faster",
"depending",
"on",
"the",
"speed",
"of",
"your",
"computer",
"my",
"model",
"gets",
"around",
"60%",
"accuracy",
"on",
"this",
"run",
"and",
"note",
"that",
"this",
"is",
"not",
"deterministic",
"and",
"neural",
"networks",
"in",
"general",
"are",
"not",
"stir",
"monistic",
"so",
"you",
"might",
"get",
"a",
"somewhat",
"different",
"number",
"it's",
"always",
"really",
"important",
"when",
"doing",
"any",
"kind",
"of",
"machine",
"learning",
"to",
"think",
"about",
"baselines",
"what",
"accuracy",
"would",
"random",
"guessing",
"get",
"on",
"this",
"data",
"set",
"maybe",
"stop",
"and",
"think",
"about",
"it",
"okay",
"I'll",
"tell",
"you",
"there's",
"ten",
"digits",
"in",
"our",
"data",
"and",
"our",
"data",
"is",
"actually",
"evenly",
"distributed",
"so",
"random",
"guessing",
"say",
"we",
"get",
"zero",
"every",
"time",
"or",
"just",
"random",
"numbers",
"we'd",
"get",
"around",
"ten",
"percent",
"accuracy",
"so",
"we",
"can",
"pat",
"ourselves",
"on",
"the",
"back",
"and",
"say",
"that",
"our",
"model",
"is",
"doing",
"better",
"than",
"random",
"weird",
"actually",
"better",
"than",
"our",
"model",
"did",
"in",
"the",
"first",
"episode",
"of",
"this",
"series",
"so",
"we're",
"off",
"to",
"a",
"good",
"start",
"but",
"there",
"are",
"a",
"ton",
"of",
"ways",
"to",
"improve",
"this",
"model",
"the",
"first",
"thing",
"we",
"should",
"probably",
"do",
"is",
"fix",
"the",
"activation",
"function",
"and",
"that's",
"actually",
"something",
"we",
"did",
"in",
"the",
"last",
"video",
"so",
"remember",
"that",
"our",
"target",
"values",
"are",
"zeros",
"and",
"ones",
"but",
"our",
"weighted",
"sum",
"can",
"be",
"anything",
"a",
"sigmoid",
"or",
"a",
"soft",
"max",
"activation",
"function",
"will",
"take",
"the",
"weighted",
"sum",
"and",
"squeeze",
"its",
"output",
"to",
"a",
"number",
"between",
"0",
"and",
"1",
"Rosenblatt",
"in",
"fact",
"use",
"the",
"same",
"activation",
"function",
"with",
"perceptrons",
"and",
"it's",
"a",
"little",
"unusual",
"that",
"we",
"left",
"it",
"out",
"it",
"helped",
"us",
"a",
"lot",
"in",
"the",
"last",
"video",
"so",
"let's",
"add",
"it",
"back",
"by",
"setting",
"activation",
"equals",
"soft",
"max",
"to",
"the",
"line",
"where",
"we",
"make",
"the",
"perceptrons",
"you",
"basically",
"always",
"want",
"to",
"use",
"a",
"soft",
"max",
"activation",
"function",
"on",
"the",
"last",
"layer",
"of",
"your",
"network",
"if",
"you're",
"doing",
"classification",
"and",
"the",
"simple",
"reason",
"to",
"do",
"this",
"is",
"that",
"you",
"want",
"to",
"constrain",
"your",
"output",
"to",
"be",
"between",
"0",
"&",
"1",
"and",
"you",
"can",
"see",
"this",
"works",
"significantly",
"better",
"right",
"off",
"the",
"bat",
"I'm",
"getting",
"around",
"37",
"38",
"percent",
"accuracy",
"this",
"is",
"where",
"we",
"stopped",
"last",
"time",
"but",
"what",
"else",
"can",
"we",
"do",
"let's",
"take",
"another",
"look",
"at",
"that",
"loss",
"function",
"so",
"this",
"gets",
"a",
"little",
"mathy",
"but",
"loss",
"functions",
"really",
"matter",
"in",
"this",
"diagram",
"I",
"have",
"two",
"linear",
"regressions",
"we're",
"used",
"to",
"linear",
"regression",
"optimizing",
"squared",
"error",
"but",
"actually",
"you",
"can",
"optimize",
"lots",
"of",
"thing",
"here",
"one",
"graph",
"optimizes",
"the",
"absolute",
"distance",
"between",
"the",
"line",
"and",
"the",
"points",
"and",
"the",
"other",
"optimizes",
"the",
"square",
"the",
"distance",
"can",
"you",
"guess",
"which",
"is",
"which",
"I",
"actually",
"do",
"this",
"in",
"the",
"prequel",
"video",
"but",
"take",
"some",
"time",
"to",
"think",
"about",
"it",
"if",
"you",
"haven't",
"seen",
"this",
"before",
"this",
"surprises",
"lots",
"of",
"students",
"but",
"the",
"left",
"is",
"actually",
"optimizing",
"squared",
"error",
"and",
"the",
"right",
"is",
"optimizing",
"absolute",
"error",
"squared",
"error",
"means",
"that",
"the",
"distance",
"to",
"a",
"point",
"is",
"squared",
"so",
"further",
"points",
"actually",
"have",
"a",
"lot",
"more",
"pull",
"on",
"the",
"line",
"than",
"points",
"closer",
"to",
"the",
"line",
"outliers",
"have",
"a",
"big",
"effect",
"on",
"squared",
"error",
"and",
"much",
"less",
"of",
"an",
"effect",
"an",
"absolute",
"error",
"loss",
"functions",
"matter",
"a",
"lot",
"with",
"neural",
"nets",
"also",
"we've",
"been",
"using",
"mean",
"squared",
"error",
"but",
"when",
"you're",
"working",
"with",
"probabilities",
"categorical",
"cross",
"entropy",
"is",
"really",
"the",
"thing",
"you",
"want",
"to",
"use",
"now",
"this",
"is",
"a",
"part",
"you",
"can",
"skip",
"ahead",
"of",
"or",
"just",
"let",
"your",
"eyes",
"glaze",
"over",
"and",
"the",
"takeaway",
"I'll",
"tell",
"you",
"is",
"that",
"you",
"should",
"always",
"use",
"categorical",
"cross",
"entropy",
"if",
"you're",
"categorizing",
"things",
"but",
"many",
"students",
"always",
"want",
"to",
"know",
"why",
"is",
"it",
"and",
"I'll",
"try",
"to",
"explain",
"it",
"without",
"getting",
"into",
"too",
"much",
"math",
"categorical",
"cross",
"entropy",
"loss",
"makes",
"neural",
"networks",
"output",
"their",
"true",
"power",
"probability",
"of",
"an",
"outcome",
"so",
"if",
"the",
"answer",
"you're",
"looking",
"for",
"is",
"one",
"categorical",
"cross",
"entropy",
"will",
"give",
"you",
"an",
"infinite",
"loss",
"sieve",
"prick",
"zero",
"and",
"diminishing",
"returns",
"the",
"closer",
"your",
"prick",
"to",
"one",
"remember",
"that",
"with",
"a",
"loss",
"function",
"lower",
"is",
"better",
"and",
"higher",
"is",
"worse",
"I'll",
"tell",
"you",
"I",
"took",
"a",
"class",
"at",
"Stanford",
"a",
"long",
"time",
"ago",
"where",
"every",
"question",
"was",
"a",
"multiple-choice",
"question",
"and",
"we",
"had",
"to",
"put",
"our",
"probability",
"belief",
"of",
"each",
"answer",
"not",
"just",
"the",
"answer",
"that",
"we",
"thought",
"was",
"most",
"likely",
"and",
"we",
"were",
"actually",
"scored",
"with",
"categorical",
"cross",
"entropy",
"if",
"we",
"put",
"that",
"we",
"thought",
"the",
"probability",
"of",
"an",
"answer",
"was",
"zero",
"and",
"it",
"turned",
"out",
"to",
"be",
"the",
"right",
"answer",
"we",
"would",
"get",
"negative",
"infinity",
"points",
"and",
"fail",
"the",
"entire",
"class",
"so",
"we",
"would",
"never",
"put",
"a",
"probability",
"of",
"zero",
"unless",
"you're",
"100%",
"sure",
"it",
"wasn't",
"the",
"answer",
"if",
"the",
"teacher",
"had",
"given",
"us",
"just",
"as",
"many",
"points",
"as",
"the",
"probability",
"score",
"we",
"put",
"on",
"the",
"right",
"answer",
"we",
"wouldn't",
"have",
"been",
"properly",
"incentivized",
"and",
"we",
"wouldn't",
"have",
"put",
"any",
"probability",
"on",
"the",
"low",
"probability",
"answers",
"and",
"you",
"probably",
"need",
"to",
"stop",
"and",
"think",
"about",
"that",
"I",
"know",
"I",
"would",
"need",
"to",
"stop",
"and",
"think",
"about",
"that",
"and",
"if",
"it",
"really",
"didn't",
"make",
"any",
"sense",
"or",
"if",
"you",
"want",
"to",
"think",
"about",
"more",
"later",
"it's",
"totally",
"fine",
"the",
"main",
"point",
"again",
"is",
"that",
"you",
"should",
"always",
"use",
"categorical",
"cross",
"entropy",
"as",
"your",
"loss",
"function",
"when",
"doing",
"classification",
"let's",
"try",
"it",
"so",
"where",
"it",
"used",
"to",
"say",
"MSC",
"or",
"mean",
"squared",
"error",
"we",
"change",
"it",
"to",
"categorical",
"underscore",
"cross",
"entropy",
"and",
"as",
"you",
"can",
"see",
"this",
"improves",
"things",
"quite",
"a",
"bit",
"and",
"it's",
"another",
"benefit",
"is",
"that",
"we",
"can",
"trust",
"the",
"output",
"of",
"these",
"perceptrons",
"to",
"be",
"guessed",
"probabilities",
"of",
"the",
"different",
"digits",
"okay",
"but",
"we're",
"not",
"done",
"yet",
"there's",
"another",
"thing",
"that",
"tutorials",
"never",
"cover",
"that's",
"super",
"important",
"it's",
"getting",
"neural",
"networks",
"to",
"work",
"well",
"which",
"is",
"normalizing",
"your",
"data",
"so",
"neural",
"networks",
"are",
"not",
"what's",
"known",
"as",
"scale",
"invariant",
"if",
"you",
"take",
"your",
"data",
"and",
"you",
"divide",
"it",
"all",
"by",
"two",
"or",
"multiply",
"it",
"by",
"ten",
"some",
"algorithms",
"won't",
"change",
"decision",
"trees",
"and",
"random",
"forests",
"they",
"don't",
"care",
"about",
"the",
"actual",
"magnitude",
"of",
"your",
"data",
"but",
"neural",
"nets",
"actually",
"really",
"do",
"and",
"when",
"you're",
"working",
"with",
"carrots",
"actually",
"most",
"of",
"the",
"well-known",
"neural",
"network",
"libraries",
"like",
"tensor",
"flow",
"or",
"pi",
"torch",
"you'll",
"get",
"much",
"better",
"results",
"if",
"you",
"normalize",
"your",
"data",
"to",
"be",
"between",
"zero",
"and",
"one",
"or",
"negative",
"one",
"and",
"one",
"and",
"actually",
"in",
"our",
"case",
"our",
"data",
"is",
"between",
"zero",
"and",
"255",
"so",
"it's",
"way",
"outside",
"of",
"the",
"range",
"that",
"our",
"network",
"is",
"expecting",
"to",
"have",
"the",
"data",
"in",
"right",
"now",
"all",
"of",
"our",
"data",
"is",
"between",
"0",
"to",
"255",
"and",
"we",
"want",
"to",
"be",
"between",
"0",
"and",
"1",
"so",
"let's",
"try",
"just",
"adding",
"X",
"underscore",
"train",
"divide",
"equals",
"255",
"which",
"should",
"divide",
"every",
"value",
"in",
"X",
"underscore",
"train",
"by",
"255",
"we",
"also",
"do",
"the",
"same",
"thing",
"for",
"X",
"underscore",
"test",
"we",
"save",
"our",
"file",
"and",
"we",
"run",
"it",
"what",
"happens",
"we",
"had",
"a",
"really",
"scary",
"looking",
"error",
"message",
"it",
"turns",
"out",
"that",
"we",
"need",
"to",
"cast",
"our",
"X",
"underscore",
"train",
"and",
"next",
"underscore",
"test",
"of",
"floats",
"right",
"now",
"they're",
"set",
"to",
"integers",
"we",
"can",
"add",
"X",
"underscore",
"train",
"equals",
"X",
"underscore",
"train",
"debt",
"as",
"type",
"flow",
"if",
"you're",
"having",
"trouble",
"following",
"along",
"the",
"complete",
"working",
"code",
"is",
"in",
"perceptron",
"-",
"normalize",
"dot",
"pi",
"and",
"it",
"turns",
"out",
"that",
"this",
"little",
"change",
"helps",
"a",
"ton",
"normalizing",
"data",
"is",
"a",
"messy",
"detail",
"of",
"neural",
"networks",
"that",
"people",
"just",
"don't",
"talk",
"about",
"enough",
"okay",
"guys",
"we've",
"made",
"a",
"ton",
"of",
"progress",
"here",
"you'll",
"never",
"make",
"this",
"much",
"progress",
"this",
"fast",
"ever",
"in",
"your",
"career",
"trust",
"me",
"we've",
"gone",
"from",
"50%",
"accuracy",
"to",
"90%",
"accuracy",
"in",
"10",
"minutes",
"so",
"it's",
"worth",
"recapping",
"what",
"we",
"did",
"so",
"one",
"is",
"reset",
"our",
"activation",
"function",
"to",
"be",
"softmax",
"which",
"is",
"a",
"good",
"idea",
"we",
"set",
"our",
"loss",
"function",
"to",
"categorical",
"cross-entropy",
"which",
"is",
"a",
"good",
"idea",
"if",
"you're",
"doing",
"categorization",
"and",
"we",
"normalize",
"their",
"data",
"which",
"is",
"almost",
"always",
"a",
"good",
"idea",
"but",
"there's",
"still",
"actually",
"a",
"lot",
"more",
"to",
"go",
"right",
"now",
"we",
"only",
"have",
"a",
"single",
"layer",
"of",
"perceptrons",
"which",
"is",
"really",
"far",
"from",
"deep",
"learning",
"before",
"we",
"go",
"on",
"how",
"many",
"weights",
"does",
"our",
"model",
"have",
"each",
"label",
"or",
"output",
"is",
"connected",
"to",
"each",
"pixel",
"or",
"input",
"and",
"there's",
"784",
"inputs",
"and",
"there's",
"10",
"outputs",
"so",
"there's",
"gonna",
"be",
"a",
"total",
"of",
"7840",
"weights",
"in",
"our",
"model",
"and",
"actually",
"I",
"lied",
"to",
"you",
"there's",
"a",
"few",
"more",
"each",
"perceptron",
"has",
"it's",
"called",
"a",
"bias",
"term",
"which",
"is",
"an",
"input",
"always",
"set",
"to",
"one",
"you",
"don't",
"really",
"have",
"to",
"worry",
"about",
"that",
"but",
"to",
"get",
"the",
"exact",
"answer",
"there's",
"really",
"7850",
"parameters",
"for",
"this",
"model",
"to",
"learn",
"you",
"can",
"always",
"check",
"that",
"by",
"calling",
"model",
"",
"summary",
"in",
"fact",
"let's",
"do",
"that",
"quickly",
"now",
"so",
"as",
"you",
"can",
"see",
"the",
"flattened",
"layer",
"has",
"no",
"trainable",
"parameters",
"since",
"it",
"always",
"is",
"the",
"same",
"thing",
"every",
"time",
"and",
"the",
"dense",
"layer",
"has",
"7850",
"trainable",
"parameters",
"despite",
"having",
"all",
"these",
"parameters",
"our",
"model",
"can",
"actually",
"only",
"look",
"at",
"individual",
"correlations",
"between",
"a",
"pixel",
"and",
"a",
"label",
"if",
"you",
"want",
"to",
"capture",
"interactions",
"between",
"pixels",
"we",
"need",
"to",
"make",
"our",
"model",
"more",
"complicated",
"a",
"multi-layer",
"perceptron",
"takes",
"the",
"output",
"of",
"some",
"number",
"of",
"perceptrons",
"and",
"uses",
"them",
"as",
"input",
"to",
"more",
"perceptrons",
"here",
"the",
"input",
"comes",
"in",
"from",
"the",
"bottom",
"and",
"there's",
"a",
"hidden",
"intermediate",
"layer",
"the",
"intermediate",
"perceptrons",
"were",
"just",
"like",
"the",
"output",
"perceptrons",
"but",
"they",
"don't",
"classify",
"anything",
"they",
"just",
"output",
"numbers",
"typically",
"these",
"days",
"hidden",
"layers",
"use",
"an",
"activation",
"function",
"called",
"relu",
"a",
"rectified",
"linear",
"unit",
"a",
"complicated",
"name",
"for",
"unbelievably",
"simple",
"algorithm",
"it",
"just",
"truncates",
"the",
"negative",
"values",
"basically",
"it",
"turns",
"out",
"all",
"nonlinear",
"activation",
"functions",
"work",
"very",
"similarly",
"and",
"reloj",
"is",
"just",
"really",
"fast",
"and",
"has",
"some",
"other",
"benefits",
"so",
"it's",
"used",
"for",
"intermediate",
"layers",
"most",
"of",
"the",
"time",
"okay",
"you",
"can",
"try",
"to",
"modify",
"our",
"existing",
"code",
"or",
"you",
"could",
"take",
"a",
"look",
"at",
"MLP",
"type",
"pie",
"where",
"we",
"set",
"this",
"up",
"for",
"you",
"this",
"code",
"is",
"super",
"similar",
"it's",
"our",
"perceptron",
"model",
"with",
"really",
"just",
"a",
"single",
"important",
"line",
"added",
"and",
"that's",
"line",
"40",
"and",
"what",
"this",
"line",
"does",
"is",
"it",
"adds",
"a",
"second",
"dense",
"layer",
"with",
"a",
"number",
"of",
"hidden",
"nodes",
"now",
"we",
"set",
"this",
"in",
"config",
"that",
"hidden",
"nodes",
"200",
"but",
"you",
"can",
"definitely",
"try",
"other",
"numbers",
"now",
"let's",
"run",
"MLP",
"type",
"I",
"and",
"see",
"what",
"happens",
"one",
"thing",
"you'll",
"notice",
"right",
"away",
"is",
"that",
"this",
"model",
"takes",
"a",
"lot",
"longer",
"to",
"Train",
"but",
"over",
"time",
"it",
"gets",
"better",
"now",
"there's",
"another",
"issue",
"that's",
"more",
"subtle",
"but",
"super",
"important",
"which",
"is",
"that",
"our",
"accuracy",
"now",
"starts",
"to",
"get",
"higher",
"than",
"our",
"validation",
"accuracy",
"in",
"fact",
"if",
"you",
"run",
"this",
"model",
"for",
"a",
"while",
"the",
"accuracy",
"will",
"get",
"a",
"lot",
"better",
"and",
"the",
"validation",
"accuracy",
"will",
"not",
"improve",
"this",
"is",
"a",
"phenomenon",
"known",
"as",
"overfitting",
"as",
"models",
"become",
"more",
"complicated",
"overfitting",
"becomes",
"more",
"and",
"more",
"of",
"an",
"issue",
"and",
"it",
"can",
"happen",
"in",
"all",
"kinds",
"of",
"domains",
"including",
"single",
"variable",
"regression",
"here's",
"the",
"line",
"in",
"the",
"middle",
"is",
"a",
"little",
"more",
"free",
"than",
"the",
"straight",
"line",
"is",
"on",
"the",
"left",
"but",
"if",
"we",
"let",
"our",
"line",
"move",
"around",
"too",
"much",
"it",
"can",
"just",
"go",
"through",
"all",
"the",
"points",
"without",
"really",
"capturing",
"the",
"data",
"how",
"do",
"you",
"know",
"if",
"you're",
"overfitting",
"when",
"you're",
"training",
"accuracy",
"is",
"better",
"than",
"your",
"validation",
"accuracy",
"remember",
"that",
"our",
"validation",
"accuracy",
"is",
"the",
"accuracy",
"on",
"data",
"that",
"the",
"model",
"did",
"not",
"see",
"while",
"it",
"was",
"training",
"so",
"the",
"validation",
"accuracy",
"is",
"a",
"better",
"estimate",
"of",
"how",
"our",
"model",
"is",
"actually",
"going",
"to",
"do",
"try",
"setting",
"the",
"number",
"of",
"hidden",
"nodes",
"to",
"a",
"larger",
"and",
"larger",
"number",
"and",
"see",
"what",
"happens",
"what",
"happens",
"oh",
"wait",
"okay",
"we're",
"back",
"maybe",
"that's",
"took",
"you",
"an",
"hour",
"if",
"you",
"really",
"did",
"it",
"probably",
"the",
"training",
"accuracy",
"gets",
"better",
"and",
"better",
"but",
"the",
"validation",
"accuracy",
"or",
"accurate",
"send",
"into",
"the",
"model",
"hasn't",
"seen",
"before",
"gets",
"worse",
"and",
"worse",
"or",
"at",
"least",
"just",
"flattens",
"out",
"as",
"models",
"get",
"more",
"and",
"more",
"complicated",
"they",
"have",
"the",
"potential",
"to",
"do",
"better",
"and",
"better",
"but",
"overfitting",
"becomes",
"more",
"and",
"more",
"of",
"a",
"problem",
"in",
"general",
"overfitting",
"is",
"a",
"huge",
"problem",
"with",
"neural",
"nets",
"but",
"there's",
"actually",
"one",
"awesome",
"silver",
"bullet",
"and",
"that",
"silver",
"bullet",
"is",
"dropout",
"dropout",
"is",
"a",
"simple",
"easy",
"to",
"explain",
"algorithm",
"that",
"helps",
"a",
"ton",
"on",
"every",
"batch",
"of",
"data",
"we",
"said",
"some",
"fraction",
"of",
"the",
"inputs",
"in",
"a",
"layer",
"to",
"zero",
"why",
"is",
"this",
"a",
"good",
"idea",
"you",
"might",
"want",
"to",
"stop",
"the",
"video",
"and",
"to",
"think",
"about",
"this",
"for",
"a",
"second",
"the",
"way",
"I",
"like",
"to",
"think",
"about",
"it",
"is",
"that",
"it",
"forces",
"the",
"network",
"to",
"learn",
"more",
"than",
"one",
"reason",
"for",
"every",
"classification",
"imagine",
"a",
"pixel",
"in",
"the",
"upper",
"left",
"was",
"always",
"lit",
"up",
"if",
"and",
"only",
"if",
"the",
"digit",
"was",
"a",
"seven",
"our",
"network",
"could",
"happily",
"learn",
"the",
"only",
"needs",
"to",
"look",
"at",
"the",
"upper",
"left-hand",
"digit",
"to",
"decide",
"if",
"the",
"handwritten",
"number",
"was",
"a",
"seven",
"to",
"optimize",
"the",
"loss",
"in",
"the",
"training",
"data",
"but",
"drop",
"out",
"would",
"force",
"the",
"network",
"to",
"learn",
"multiple",
"pathways",
"for",
"deciding",
"if",
"a",
"digit",
"is",
"a",
"seven",
"because",
"some",
"fraction",
"of",
"the",
"time",
"that",
"value",
"would",
"be",
"hidden",
"dropout",
"turns",
"off",
"when",
"you",
"deploy",
"your",
"model",
"or",
"when",
"you",
"run",
"your",
"model",
"on",
"a",
"held",
"out",
"set",
"it's",
"really",
"easy",
"to",
"add",
"you",
"should",
"just",
"add",
"dropout",
"layers",
"between",
"your",
"perceptron",
"layers",
"and",
"check",
"out",
"what",
"it",
"does",
"you",
"now",
"when",
"we",
"train",
"our",
"model",
"the",
"training",
"accuracy",
"is",
"actually",
"worse",
"than",
"the",
"validation",
"accuracy",
"but",
"the",
"great",
"thing",
"is",
"that",
"our",
"validation",
"accuracy",
"can",
"keep",
"going",
"up",
"as",
"we",
"make",
"our",
"model",
"more",
"and",
"more",
"complicated",
"a",
"great",
"rule",
"of",
"thumb",
"is",
"this",
"if",
"you're",
"training",
"accuracy",
"is",
"higher",
"than",
"your",
"validation",
"or",
"test",
"accuracy",
"you're",
"overfitting",
"if",
"you",
"are",
"overfitting",
"anything",
"you",
"can",
"do",
"to",
"make",
"your",
"model",
"fancier",
"or",
"more",
"complicated",
"is",
"only",
"going",
"to",
"hurt",
"you",
"you",
"need",
"to",
"stop",
"and",
"fix",
"that",
"overfitting",
"and",
"the",
"easiest",
"way",
"to",
"fix",
"overfitting",
"is",
"almost",
"always",
"that",
"dropout",
"it's",
"typically",
"put",
"between",
"every",
"layer",
"with",
"free",
"parameters",
"so",
"this",
"was",
"part",
"of",
"the",
"densest",
"video",
"that",
"we're",
"going",
"to",
"make",
"and",
"we",
"covered",
"a",
"ton",
"of",
"material",
"we",
"covered",
"overfitting",
"we",
"covered",
"data",
"normalization",
"we",
"covered",
"building",
"a",
"multi",
"class",
"perceptron",
"and",
"a",
"multi-layer",
"perceptron",
"but",
"we",
"actually",
"still",
"haven't",
"squeezed",
"out",
"all",
"the",
"performance",
"that",
"we",
"can",
"out",
"of",
"a",
"data",
"set",
"like",
"this",
"and",
"to",
"get",
"that",
"final",
"ounce",
"of",
"performance",
"we're",
"gonna",
"have",
"to",
"build",
"a",
"convolutional",
"neural",
"network",
"and",
"I",
"know",
"you",
"guys",
"are",
"excited",
"to",
"build",
"a",
"convolutional",
"neural",
"network",
"so",
"stay",
"tuned",
"for",
"the",
"next",
"video",
"well",
"guys",
"it's",
"my",
"dream",
"to",
"be",
"a",
"YouTube",
"celebrity",
"and",
"I",
"need",
"your",
"help",
"subscribe",
"is",
"that",
"that's",
"how",
"it",
"works",
"right",
"like",
"down",
"or",
"up",
"or",
"I",
"don't",
"know",
"like",
"you",
"open",
"a",
"box",
"like",
"over"
]
| [
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"better.",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"it...",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"which",
"is",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"making.",
"Remember",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"py",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"hot",
"encoding",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"transformation?",
"It's",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"0.",
"Stop",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"on.",
"We",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"same.",
"Dense",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"perceptrons",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"our",
"mode.l",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"it.",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"1.",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"perceptrons.",
"You",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"than",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"you",
"predict",
"",
"one.",
"Remember",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"worse.",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"that.",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"it.",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"dot",
"",
"",
"float.",
"If",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"py",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"enough.",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"learning.",
"Before",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"reLU",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"reLU",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"dot",
"py",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"dropout.",
"Dropout",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
""
]
| [
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
6,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
7,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
7,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0
]
|
wzy8jI-duEQ
| [
"we",
"need",
"to",
"talk",
"about",
"convolutional",
"neural",
"networks",
"so",
"far",
"everything",
"that",
"we've",
"done",
"applies",
"to",
"any",
"type",
"of",
"input",
"multi-layer",
"perceptrons",
"is",
"a",
"generic",
"algorithm",
"that",
"you",
"can",
"use",
"on",
"literally",
"any",
"kind",
"of",
"input",
"if",
"you",
"can",
"get",
"it",
"into",
"an",
"array",
"of",
"numbers",
"but",
"convolutional",
"neural",
"networks",
"only",
"apply",
"to",
"certain",
"data",
"sets",
"and",
"images",
"are",
"one",
"of",
"them",
"the",
"reason",
"is",
"when",
"we",
"apply",
"a",
"multi-layer",
"perceptron",
"it",
"throws",
"out",
"a",
"lot",
"of",
"data",
"when",
"my",
"little",
"friend",
"here",
"looks",
"at",
"something",
"and",
"gets",
"an",
"image",
"the",
"image",
"actually",
"has",
"some",
"structure",
"to",
"it",
"it's",
"a",
"2d",
"array",
"and",
"the",
"XY",
"coordinates",
"we",
"have",
"an",
"intuition",
"that",
"they",
"do",
"matter",
"and",
"if",
"I",
"took",
"an",
"image",
"and",
"I",
"shifted",
"every",
"pixel",
"to",
"the",
"left",
"all",
"the",
"numbers",
"change",
"but",
"it's",
"actually",
"in",
"that",
"image",
"probably",
"stays",
"the",
"same",
"so",
"we",
"need",
"some",
"new",
"mathematical",
"operators",
"that",
"take",
"advantage",
"of",
"that",
"and",
"the",
"operator",
"that's",
"generally",
"used",
"is",
"called",
"a",
"convolution",
"convolutions",
"have",
"been",
"around",
"for",
"a",
"really",
"long",
"time",
"even",
"convolutional",
"neural",
"networks",
"have",
"been",
"around",
"for",
"a",
"long",
"time",
"but",
"around",
"2011",
"or",
"2012",
"applying",
"convolutions",
"to",
"object",
"recognition",
"inside",
"images",
"with",
"neural",
"nets",
"went",
"mainstream",
"with",
"huge",
"success",
"the",
"task",
"of",
"recognizing",
"what's",
"in",
"an",
"arbitrary",
"image",
"went",
"from",
"being",
"basically",
"impossible",
"for",
"any",
"machine",
"learning",
"algorithm",
"to",
"having",
"better",
"than",
"human",
"level",
"accuracy",
"in",
"many",
"cases",
"using",
"CNN's",
"this",
"kind",
"of",
"improvement",
"for",
"mere",
"30",
"percent",
"error",
"rate",
"to",
"better",
"than",
"human",
"accuracy",
"over",
"just",
"a",
"few",
"years",
"is",
"probably",
"one",
"of",
"the",
"biggest",
"breakthroughs",
"in",
"AI",
"and",
"it's",
"probably",
"a",
"big",
"part",
"of",
"the",
"reason",
"you're",
"actually",
"watching",
"this",
"video",
"let's",
"apply",
"convolutions",
"to",
"our",
"image",
"recognition",
"problem",
"what",
"is",
"a",
"convolution",
"now",
"generally",
"speaking",
"there's",
"one",
"D",
"convolutions",
"and",
"two",
"D",
"convolutions",
"and",
"three",
"D",
"convolutions",
"and",
"you",
"might",
"have",
"seen",
"a",
"convolution",
"in",
"signal",
"processing",
"or",
"in",
"your",
"math",
"class",
"involving",
"somehow",
"Fourier",
"transforms",
"but",
"in",
"this",
"case",
"what",
"we",
"mean",
"by",
"convolution",
"is",
"actually",
"a",
"2d",
"discrete",
"convolution",
"and",
"so",
"you",
"can",
"think",
"of",
"that",
"as",
"sliding",
"a",
"window",
"of",
"weights",
"across",
"an",
"image",
"or",
"more",
"practically",
"you",
"can",
"think",
"of",
"it",
"as",
"very",
"low-budget",
"Photoshop",
"filter",
"so",
"assuming",
"you're",
"in",
"the",
"right",
"directory",
"you",
"can",
"find",
"a",
"little",
"tool",
"I",
"wrote",
"called",
"con",
"demo",
"this",
"is",
"mostly",
"for",
"demonstration",
"purposes",
"I",
"start",
"with",
"the",
"kernel",
"set",
"to",
"a",
"three",
"by",
"three",
"array",
"where",
"each",
"value",
"is",
"equal",
"to",
"0.1",
"and",
"now",
"what",
"this",
"convolution",
"does",
"is",
"it",
"scans",
"across",
"the",
"image",
"and",
"it",
"takes",
"each",
"pixel",
"value",
"in",
"a",
"3x3",
"chunk",
"and",
"it",
"multiplies",
"it",
"by",
"0.1",
"and",
"then",
"sums",
"the",
"number",
"and",
"then",
"puts",
"the",
"sum",
"in",
"the",
"first",
"value",
"of",
"the",
"output",
"image",
"now",
"we",
"step",
"one",
"pixel",
"of",
"the",
"right",
"and",
"we",
"do",
"the",
"same",
"thing",
"with",
"the",
"same",
"weights",
"and",
"we",
"do",
"it",
"over",
"and",
"over",
"and",
"over",
"for",
"every",
"pixel",
"in",
"the",
"image",
"this",
"convolution",
"basically",
"averages",
"over",
"3x3",
"block",
"so",
"essentially",
"you",
"can",
"think",
"of",
"it",
"as",
"a",
"blur",
"okay",
"so",
"what",
"do",
"you",
"think",
"this",
"does",
"if",
"I",
"make",
"the",
"middle",
"of",
"the",
"kernel",
"1",
"and",
"all",
"the",
"other",
"numbers",
"0",
"I",
"actually",
"get",
"the",
"original",
"image",
"back",
"and",
"now",
"what",
"do",
"you",
"think",
"this",
"does",
"if",
"I",
"make",
"the",
"middle",
"of",
"the",
"kernel",
"2",
"and",
"all",
"the",
"other",
"numbers",
"0",
"it",
"actually",
"makes",
"everything",
"brighter",
"which",
"kind",
"of",
"makes",
"sense",
"because",
"it",
"multiplies",
"each",
"of",
"the",
"pixels",
"by",
"2",
"exactly",
"and",
"now",
"I",
"won't",
"go",
"through",
"this",
"I'll",
"leave",
"this",
"to",
"you",
"but",
"you",
"should",
"think",
"about",
"what",
"does",
"this",
"do",
"if",
"I",
"make",
"the",
"middle",
"of",
"the",
"kernel",
"1",
"and",
"the",
"number",
"of",
"above",
"it",
"negative",
"1",
"or",
"what",
"do",
"you",
"think",
"this",
"does",
"if",
"I",
"make",
"the",
"middle",
"of",
"the",
"kernel",
"1",
"and",
"all",
"the",
"others",
"are",
"numbers",
"around",
"it",
"negative",
"0.1",
"and",
"if",
"you",
"play",
"with",
"this",
"conv",
"demo",
"for",
"a",
"while",
"you'll",
"get",
"a",
"great",
"intuition",
"for",
"what",
"convolutions",
"can",
"do",
"there's",
"actually",
"one",
"more",
"piece",
"of",
"this",
"that's",
"important",
"which",
"is",
"how",
"we",
"do",
"convolution",
"on",
"multiple",
"images",
"and",
"a",
"really",
"important",
"case",
"is",
"where",
"this",
"happens",
"on",
"color",
"images",
"so",
"actually",
"my",
"little",
"dog",
"was",
"originally",
"a",
"color",
"image",
"so",
"the",
"way",
"we",
"pass",
"it",
"into",
"the",
"neural",
"net",
"is",
"we",
"broke",
"it",
"up",
"into",
"red",
"green",
"and",
"blue",
"components",
"so",
"actually",
"we",
"do",
"a",
"3x3",
"convolution",
"on",
"the",
"red",
"data",
"the",
"green",
"data",
"the",
"blue",
"data",
"and",
"then",
"we",
"add",
"up",
"all",
"the",
"results",
"so",
"sometimes",
"convolutions",
"take",
"a",
"step",
"of",
"more",
"than",
"one",
"if",
"each",
"iteration",
"moved",
"by",
"a",
"step",
"of",
"two",
"we",
"would",
"say",
"that",
"the",
"convolution",
"had",
"a",
"stride",
"of",
"two",
"how",
"we",
"handled",
"the",
"edges",
"also",
"matters",
"if",
"we",
"do",
"a",
"3x3",
"convolution",
"on",
"an",
"image",
"and",
"we",
"don't",
"go",
"over",
"the",
"edges",
"the",
"output",
"image",
"is",
"a",
"little",
"smaller",
"than",
"the",
"input",
"image",
"this",
"is",
"what",
"Kerris",
"does",
"by",
"default",
"so",
"if",
"you",
"want",
"to",
"preserve",
"the",
"image",
"size",
"you",
"have",
"to",
"add",
"zeros",
"around",
"the",
"input",
"image",
"and",
"that's",
"called",
"zero",
"padding",
"now",
"there's",
"another",
"simpler",
"transformation",
"also",
"very",
"common",
"in",
"neural",
"networks",
"called",
"pooling",
"if",
"convolutions",
"are",
"a",
"bad",
"photoshop",
"filter",
"pooling",
"is",
"like",
"a",
"bad",
"resizing",
"algorithm",
"typically",
"pooling",
"takes",
"a",
"2x2",
"region",
"of",
"an",
"image",
"and",
"chooses",
"the",
"max",
"value",
"in",
"each",
"region",
"this",
"is",
"max",
"pooling",
"average",
"pooling",
"takes",
"the",
"average",
"in",
"each",
"region",
"either",
"way",
"this",
"shrinks",
"the",
"image",
"by",
"a",
"factor",
"of",
"two",
"you",
"can",
"actually",
"achieve",
"similar",
"results",
"with",
"strides",
"but",
"we",
"want",
"to",
"shrink",
"down",
"the",
"image",
"so",
"we",
"can",
"do",
"convolutions",
"at",
"different",
"scales",
"now",
"let's",
"go",
"to",
"the",
"code",
"and",
"put",
"it",
"all",
"together",
"so",
"open",
"up",
"CNN",
"Pi",
"and",
"you'll",
"notice",
"that",
"this",
"is",
"very",
"very",
"similar",
"Tori",
"left",
"off",
"in",
"the",
"last",
"video",
"of",
"a",
"multi-layer",
"perceptron",
"but",
"there's",
"a",
"nasty",
"little",
"wrinkle",
"on",
"lines",
"19",
"and",
"20",
"and",
"that's",
"because",
"Kerris",
"is",
"2d",
"convolutions",
"want",
"three-dimensional",
"input",
"because",
"most",
"images",
"are",
"actually",
"two-dimensional",
"but",
"then",
"have",
"a",
"third",
"dimension",
"for",
"color",
"our",
"images",
"happen",
"to",
"be",
"two-dimensional",
"only",
"because",
"they're",
"grayscale",
"and",
"they",
"don't",
"have",
"a",
"color",
"dimension",
"so",
"we",
"need",
"to",
"use",
"the",
"handy",
"reshape",
"function",
"that",
"takes",
"our",
"image",
"and",
"adds",
"an",
"extra",
"dimension",
"of",
"length",
"one",
"to",
"fit",
"Harris's",
"convolution",
"API",
"now",
"line",
"29",
"is",
"the",
"others",
"line",
"that",
"changes",
"until",
"now",
"we've",
"actually",
"flattened",
"out",
"all",
"of",
"our",
"models",
"for",
"perceptrons",
"but",
"in",
"this",
"case",
"we're",
"going",
"to",
"do",
"a",
"convolution",
"instead",
"of",
"the",
"flattening",
"notice",
"that",
"we",
"still",
"have",
"to",
"explicitly",
"tell",
"our",
"model",
"that",
"the",
"input",
"shape",
"is",
"28",
"by",
"28",
"by",
"1",
"we're",
"actually",
"doing",
"30",
"to",
"3x3",
"convolutions",
"in",
"parallel",
"and",
"we're",
"going",
"to",
"need",
"to",
"learn",
"the",
"weights",
"of",
"each",
"of",
"those",
"convolution",
"parameters",
"next",
"we",
"had",
"a",
"max",
"pooling",
"layer",
"which",
"shrinks",
"down",
"the",
"network",
"then",
"we",
"had",
"a",
"flatten",
"layer",
"because",
"the",
"next",
"and",
"Slayer",
"is",
"a",
"perceptron",
"and",
"expects",
"a",
"one",
"dimensional",
"input",
"let's",
"try",
"running",
"our",
"model",
"but",
"before",
"we",
"do",
"it",
"let's",
"be",
"sure",
"to",
"call",
"model",
"death",
"summary",
"and",
"check",
"out",
"the",
"output",
"okay",
"because",
"we're",
"in",
"a",
"new",
"directory",
"we",
"need",
"these",
"called",
"W",
"and",
"B",
"and",
"knit",
"one",
"more",
"time",
"to",
"set",
"this",
"up",
"we",
"can",
"use",
"the",
"same",
"user",
"name",
"and",
"we",
"can",
"optionally",
"select",
"a",
"new",
"project",
"or",
"use",
"our",
"previous",
"project",
"if",
"you've",
"been",
"following",
"along",
"with",
"previous",
"videos",
"now",
"Python",
"CNN",
"PI",
"actually",
"trains",
"the",
"model",
"and",
"here's",
"where",
"a",
"GPU",
"would",
"start",
"to",
"really",
"speed",
"things",
"up",
"there's",
"only",
"320",
"parameters",
"in",
"our",
"convolution",
"layer",
"but",
"they",
"dramatically",
"affect",
"the",
"output",
"you",
"can",
"see",
"because",
"we",
"don't",
"have",
"pooling",
"it",
"actually",
"shrinks",
"our",
"image",
"input",
"from",
"28",
"by",
"28",
"to",
"26",
"by",
"26",
"in",
"the",
"convolution",
"but",
"it",
"actually",
"makes",
"32",
"different",
"output",
"images",
"so",
"the",
"output",
"size",
"of",
"our",
"convolution",
"layer",
"is",
"really",
"large",
"the",
"max",
"pooling",
"layer",
"has",
"no",
"free",
"parameters",
"because",
"it",
"always",
"does",
"the",
"same",
"thing",
"but",
"it",
"cuts",
"the",
"size",
"of",
"our",
"images",
"in",
"half",
"the",
"flattened",
"layer",
"of",
"course",
"also",
"has",
"no",
"free",
"parameters",
"the",
"hidden",
"dense",
"layer",
"has",
"a",
"ton",
"of",
"free",
"parameters",
"because",
"it",
"has",
"a",
"hundred",
"and",
"twenty",
"eight",
"outputs",
"and",
"five",
"thousand",
"four",
"hundred",
"and",
"eight",
"inputs",
"our",
"total",
"model",
"has",
"nearly",
"1",
"million",
"free",
"parameters",
"and",
"only",
"60,000",
"training",
"data",
"points",
"so",
"what",
"should",
"we",
"be",
"worried",
"about",
"I",
"hope",
"you",
"guessed",
"overfitting",
"because",
"if",
"you",
"did",
"that",
"means",
"you've",
"been",
"paying",
"attention",
"and",
"I",
"hope",
"that",
"you're",
"thinking",
"if",
"I",
"have",
"overfitting",
"I",
"should",
"do",
"one",
"thing",
"and",
"that",
"is",
"to",
"add",
"dropout",
"now",
"if",
"you",
"were",
"my",
"student",
"and",
"we",
"were",
"in",
"person",
"I",
"would",
"make",
"you",
"do",
"that",
"on",
"your",
"own",
"to",
"check",
"understanding",
"I",
"can't",
"do",
"that",
"on",
"the",
"video",
"but",
"I",
"think",
"you",
"should",
"try",
"I'll",
"show",
"you",
"how",
"to",
"add",
"dropout",
"to",
"the",
"network",
"and",
"there's",
"more",
"than",
"one",
"way",
"to",
"do",
"it",
"here's",
"how",
"I",
"would",
"do",
"it",
"typically",
"you",
"want",
"to",
"put",
"dropout",
"between",
"layers",
"that",
"actually",
"have",
"a",
"free",
"parameter",
"so",
"in",
"this",
"case",
"it'll",
"be",
"after",
"the",
"max",
"pooling",
"layer",
"and",
"then",
"after",
"the",
"final",
"dense",
"layer",
"you",
"could",
"also",
"put",
"dropout",
"before",
"the",
"very",
"first",
"layer",
"typical",
"inputs",
"to",
"the",
"dropout",
"is",
"about",
"0.4",
"which",
"means",
"that",
"40%",
"of",
"the",
"things",
"coming",
"into",
"the",
"drop",
"out",
"gets",
"set",
"to",
"zero",
"you",
"could",
"set",
"this",
"anywhere",
"between",
"20%",
"and",
"50%",
"it",
"tends",
"to",
"not",
"matter",
"that",
"much",
"this",
"is",
"gonna",
"take",
"a",
"while",
"to",
"train",
"so",
"what",
"we",
"wait",
"I'll",
"tell",
"you",
"about",
"one",
"more",
"improvement",
"that",
"we",
"have",
"we're",
"actually",
"at",
"98%",
"accuracy",
"so",
"but",
"to",
"get",
"to",
"99%",
"accuracy",
"we",
"need",
"to",
"have",
"multiple",
"convolutional",
"layers",
"and",
"the",
"intuition",
"for",
"why",
"is",
"it",
"a",
"convolution",
"only",
"acts",
"at",
"one",
"scale",
"but",
"if",
"we",
"shrink",
"the",
"image",
"down",
"and",
"we",
"do",
"another",
"convolution",
"then",
"we",
"can",
"detect",
"patterns",
"and",
"multiple",
"scales",
"so",
"a",
"typical",
"architecture",
"for",
"most",
"object",
"recognition",
"tasks",
"will",
"actually",
"have",
"multiple",
"convolutions",
"and",
"some",
"kind",
"of",
"shrinking",
"operation",
"in",
"between",
"the",
"convolutions",
"max",
"pooling",
"is",
"probably",
"the",
"most",
"common",
"but",
"you'll",
"see",
"other",
"strategies",
"for",
"shrinking",
"the",
"image",
"down",
"so",
"this",
"diagram",
"actually",
"lays",
"out",
"a",
"very",
"typical",
"convolutional",
"neural",
"network",
"the",
"bottom",
"here",
"is",
"the",
"input",
"eight",
"and",
"that's",
"actually",
"the",
"digit",
"8",
"from",
"the",
"same",
"data",
"set",
"we're",
"looking",
"at",
"and",
"then",
"the",
"next",
"layer",
"from",
"the",
"bottom",
"is",
"the",
"first",
"convolutional",
"layer",
"then",
"there's",
"another",
"max",
"pooling",
"layer",
"followed",
"by",
"another",
"convolutional",
"layer",
"followed",
"by",
"another",
"max",
"pooling",
"layer",
"followed",
"by",
"some",
"hidden",
"layers",
"and",
"if",
"you",
"look",
"closely",
"you",
"can",
"see",
"the",
"output",
"that",
"the",
"eighth",
"neuron",
"is",
"lit",
"up",
"on",
"the",
"top",
"I",
"love",
"this",
"visualization",
"because",
"you",
"can",
"see",
"all",
"the",
"crazy",
"things",
"the",
"convolutions",
"do",
"now",
"here's",
"a",
"challenge",
"can",
"you",
"actually",
"create",
"this",
"network",
"by",
"modifying",
"CNN",
"pi",
"so",
"stop",
"this",
"video",
"and",
"give",
"it",
"a",
"try",
"if",
"you",
"like",
"I",
"do",
"it",
"by",
"adding",
"two",
"layers",
"in",
"the",
"middle",
"of",
"this",
"network",
"you",
"can",
"actually",
"tune",
"the",
"number",
"of",
"outputs",
"of",
"this",
"layer",
"and",
"the",
"number",
"of",
"nodes",
"in",
"the",
"hidden",
"layer",
"experiment",
"see",
"if",
"you",
"can",
"build",
"interesting",
"network",
"architectures",
"that",
"get",
"higher",
"accuracy",
"we're",
"actually",
"getting",
"almost",
"perfect",
"accuracy",
"on",
"this",
"data",
"set",
"at",
"this",
"point",
"so",
"it",
"might",
"be",
"time",
"to",
"try",
"applying",
"this",
"to",
"something",
"else",
"and",
"for",
"your",
"educational",
"entertainment",
"I",
"have",
"a",
"completely",
"new",
"but",
"very",
"similar",
"data",
"set",
"called",
"fashion",
"M",
"NIST",
"it's",
"60,000",
"images",
"but",
"instead",
"of",
"being",
"handwritten",
"numbers",
"they're",
"images",
"of",
"clothes",
"and",
"the",
"categories",
"are",
"a",
"t-shirt",
"trouser",
"pullover",
"dress",
"coat",
"sandal",
"shirts",
"sneaker",
"bag",
"and",
"ankle",
"boot",
"in",
"fact",
"if",
"you",
"open",
"up",
"fashion",
"dot",
"pie",
"I",
"have",
"some",
"skeleton",
"code",
"that",
"starts",
"off",
"where",
"this",
"whole",
"set",
"of",
"lessons",
"began",
"with",
"a",
"very",
"very",
"basic",
"perceptron",
"can",
"you",
"apply",
"what",
"you've",
"learned",
"to",
"build",
"a",
"fashion",
"classifier",
"on",
"a",
"similar",
"data",
"set",
"let",
"me",
"know",
"how",
"it",
"goes",
"and",
"comment",
"below",
"okay",
"so",
"so",
"far",
"we've",
"covered",
"the",
"basic",
"introductory",
"class",
"into",
"neural",
"networks",
"we've",
"done",
"perceptrons",
"multi-layer",
"perceptrons",
"and",
"convolutional",
"neural",
"networks",
"this",
"should",
"be",
"a",
"basic",
"understanding",
"that",
"lets",
"you",
"actually",
"use",
"real",
"deep",
"learning",
"code",
"in",
"the",
"wild",
"but",
"from",
"here",
"on",
"out",
"it",
"gets",
"super",
"fun",
"we",
"can",
"apply",
"this",
"to",
"lots",
"of",
"different",
"applications",
"and",
"I",
"want",
"to",
"show",
"you",
"about",
"autoencoders",
"which",
"are",
"a",
"really",
"cool",
"architecture",
"I",
"want",
"to",
"show",
"you",
"about",
"transfer",
"learning",
"I",
"want",
"to",
"show",
"you",
"about",
"text",
"and",
"lots",
"of",
"other",
"things",
"but",
"you",
"should",
"actually",
"enjoy",
"the",
"knowledge",
"you",
"have",
"right",
"now",
"on",
"convolutional",
"neural",
"networks",
"go",
"out",
"and",
"build",
"an",
"object",
"classifier",
"on",
"a",
"new",
"set",
"of",
"data",
"I",
"think",
"you'll",
"really",
"have",
"fun",
"ok",
"yeah",
"you",
"know",
"just",
"came",
"from",
"board",
"meeting",
"and",
"they",
"told",
"me",
"if",
"I",
"don't",
"get",
"a",
"million",
"subscribers",
"next",
"week",
"they're",
"gonna",
"fire",
"me",
"so",
"really",
"mean",
"a",
"lot",
"if",
"you",
"guys",
"could",
"subscribe",
"and",
"like",
"and",
"click",
"on",
"my",
"patreon",
"what",
"else"
]
| [
"We",
"",
"",
"",
"",
"",
"",
"networks.",
"So",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"convolution.",
"Convolutions",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Keras",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Py",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Keras",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Karas's",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"dense",
"layer",
"",
"",
"",
"",
"",
"",
"",
"",
"input.",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"dot",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Open",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Py",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"py",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
""
]
| [
1,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
7,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0
]
|
vbhEnEbj3JM
| [
"hello",
"everybody",
"my",
"name",
"is",
"Chris",
"and",
"today",
"we're",
"gonna",
"talk",
"about",
"transfer",
"learning",
"I",
"think",
"transfer",
"learning",
"is",
"really",
"cool",
"because",
"it",
"lets",
"you",
"take",
"a",
"small",
"data",
"set",
"and",
"actually",
"create",
"a",
"really",
"accurate",
"model",
"we're",
"gonna",
"do",
"this",
"by",
"leveraging",
"very",
"large",
"networks",
"that",
"were",
"trained",
"for",
"many",
"hours",
"or",
"even",
"days",
"on",
"much",
"larger",
"data",
"sets",
"than",
"ours",
"and",
"actually",
"transfer",
"that",
"knowledge",
"into",
"our",
"own",
"network",
"made",
"specifically",
"for",
"our",
"classification",
"problem",
"so",
"today",
"we're",
"going",
"to",
"be",
"working",
"with",
"the",
"Freiburg",
"Grocery",
"data",
"set",
"which",
"is",
"a",
"small",
"data",
"set",
"about",
"four",
"thousand",
"images",
"of",
"various",
"grocery",
"products",
"and",
"we",
"want",
"to",
"train",
"our",
"classifier",
"to",
"tell",
"us",
"what",
"type",
"of",
"grocery",
"products",
"those",
"are",
"so",
"let's",
"take",
"a",
"look",
"at",
"the",
"data",
"so",
"first",
"we're",
"going",
"to",
"import",
"our",
"carrots",
"model",
"layers",
"so",
"we",
"can",
"we",
"can",
"build",
"a",
"carrots",
"model",
"and",
"we're",
"also",
"importing",
"ResNet",
"50",
"which",
"is",
"a",
"image",
"classification",
"network",
"actually",
"out",
"of",
"Microsoft",
"Research",
"that's",
"very",
"large",
"and",
"we're",
"going",
"to",
"be",
"able",
"to",
"transfer",
"knowledge",
"from",
"it",
"into",
"our",
"own",
"network",
"so",
"first",
"we",
"need",
"to",
"load",
"our",
"training",
"data",
"so",
"here",
"we're",
"splitting",
"our",
"training",
"data",
"into",
"a",
"train",
"and",
"a",
"test",
"as",
"well",
"as",
"extracting",
"the",
"class",
"names",
"from",
"this",
"utility",
"library",
"called",
"groceries",
"and",
"let's",
"take",
"a",
"look",
"at",
"one",
"of",
"those",
"images",
"actually",
"looks",
"like",
"there",
"you",
"go",
"jar",
"of",
"pickles",
"hopefully",
"we",
"can",
"train",
"our",
"machine",
"to",
"tell",
"us",
"that",
"so",
"let's",
"look",
"at",
"what",
"the",
"other",
"classes",
"in",
"the",
"dataset",
"look",
"like",
"we've",
"got",
"beans",
"cake",
"pasta",
"and",
"my",
"favorite",
"vinegar",
"all",
"right",
"let's",
"see",
"how",
"the",
"data",
"is",
"actually",
"distributed",
"so",
"as",
"you",
"can",
"see",
"some",
"of",
"the",
"classes",
"don't",
"have",
"nearly",
"as",
"many",
"examples",
"as",
"others",
"hopefully",
"transfer",
"learning",
"can",
"help",
"to",
"compensate",
"for",
"this",
"so",
"before",
"we",
"can",
"train",
"our",
"model",
"we",
"need",
"to",
"convert",
"our",
"categories",
"which",
"are",
"going",
"to",
"be",
"numbers",
"between",
"0",
"and",
"25",
"into",
"1",
"hot",
"encoded",
"vectors",
"so",
"we're",
"calling",
"two",
"categorical",
"on",
"our",
"labels",
"and",
"now",
"just",
"to",
"see",
"how",
"we",
"can",
"perform",
"on",
"this",
"data",
"set",
"with",
"a",
"very",
"simple",
"perceptron",
"let's",
"go",
"ahead",
"normalize",
"our",
"data",
"and",
"then",
"just",
"create",
"a",
"single",
"layer",
"perceptron",
"model",
"we're",
"going",
"to",
"use",
"categorical",
"cross-entropy",
"for",
"our",
"loss",
"because",
"this",
"is",
"a",
"multi-class",
"classification",
"problem",
"our",
"good",
"old",
"friend",
"the",
"atom",
"optimizer",
"and",
"we",
"also",
"want",
"to",
"view",
"accuracy",
"so",
"we",
"can",
"have",
"a",
"better",
"metric",
"to",
"comprehend",
"what's",
"going",
"on",
"lastly",
"we're",
"calling",
"W",
"in",
"it",
"so",
"we",
"can",
"visualize",
"our",
"metrics",
"and",
"let's",
"go",
"ahead",
"and",
"train",
"this",
"model",
"okay",
"so",
"looks",
"like",
"we",
"aren't",
"doing",
"so",
"well",
"our",
"validation",
"accuracy",
"is",
"point",
"zero",
"four",
"percent",
"this",
"is",
"this",
"is",
"very",
"troubling",
"our",
"extra",
"our",
"accuracy",
"on",
"the",
"training",
"data",
"is",
"even",
"lower",
"I",
"mean",
"I'm",
"I",
"look",
"at",
"this",
"and",
"I",
"I",
"feel",
"ill",
"there",
"has",
"to",
"be",
"a",
"better",
"way",
"so",
"Kerris",
"makes",
"it",
"really",
"easy",
"to",
"leverage",
"the",
"research",
"community's",
"progress",
"in",
"computer",
"vision",
"models",
"so",
"here",
"we're",
"going",
"to",
"import",
"resident",
"50",
"and",
"actually",
"download",
"the",
"pre",
"trained",
"weights",
"from",
"training",
"on",
"image",
"net",
"which",
"is",
"an",
"image",
"data",
"set",
"with",
"millions",
"of",
"images",
"that",
"takes",
"many",
"days",
"to",
"train",
"so",
"with",
"this",
"one",
"line",
"we're",
"pulling",
"in",
"cutting-edge",
"computer",
"vision",
"research",
"let's",
"go",
"ahead",
"and",
"take",
"a",
"look",
"at",
"a",
"model",
"summary",
"to",
"see",
"what",
"this",
"network",
"looks",
"like",
"oh",
"man",
"so",
"many",
"layers",
"resident",
"50",
"is",
"much",
"more",
"complicated",
"than",
"our",
"simple",
"perceptron",
"you",
"can",
"see",
"things",
"like",
"batch",
"normalization",
"many",
"different",
"convolutions",
"and",
"then",
"even",
"this",
"funny",
"add",
"layer",
"so",
"what",
"resonate",
"does",
"is",
"it",
"actually",
"branches",
"off",
"and",
"takes",
"features",
"from",
"earlier",
"in",
"the",
"network",
"and",
"adds",
"them",
"back",
"in",
"in",
"later",
"layers",
"and",
"this",
"helps",
"the",
"network",
"train",
"better",
"and",
"allows",
"researchers",
"to",
"make",
"an",
"even",
"deeper",
"network",
"which",
"gives",
"it",
"more",
"expressive",
"ility",
"and",
"accuracy",
"I",
"can",
"just",
"keep",
"on",
"scrolling",
"so",
"to",
"see",
"what",
"this",
"network",
"can",
"actually",
"do",
"let's",
"run",
"it",
"on",
"a",
"picture",
"of",
"an",
"elephant",
"because",
"why",
"not",
"so",
"here",
"we're",
"loading",
"in",
"our",
"elephant",
"we're",
"changing",
"its",
"size",
"to",
"224",
"pixels",
"by",
"224",
"pixels",
"because",
"the",
"network",
"expects",
"that",
"size",
"then",
"we're",
"expanding",
"the",
"dimensions",
"because",
"we",
"need",
"to",
"include",
"our",
"batch",
"dimension",
"and",
"we",
"call",
"this",
"really",
"important",
"function",
"pre",
"process",
"input",
"so",
"when",
"they",
"train",
"ResNet",
"the",
"researchers",
"used",
"a",
"very",
"specific",
"way",
"pre",
"processing",
"the",
"images",
"and",
"we're",
"going",
"to",
"use",
"their",
"exact",
"same",
"logic",
"to",
"do",
"that",
"on",
"our",
"own",
"data",
"so",
"that",
"we",
"can",
"have",
"high",
"accuracy",
"results",
"coming",
"out",
"of",
"the",
"model",
"lastly",
"we",
"just",
"call",
"predict",
"and",
"we're",
"using",
"this",
"nice",
"helper",
"method",
"decode",
"predictions",
"which",
"are",
"going",
"to",
"change",
"the",
"the",
"various",
"indices",
"into",
"the",
"last",
"layer",
"and",
"tell",
"us",
"exactly",
"what",
"category",
"that",
"it's",
"predicting",
"look",
"at",
"that",
"the",
"network",
"output",
"Tusker",
"with",
"49",
"percent",
"accuracy",
"an",
"indian",
"elephant",
"with",
"thirty-four",
"percent",
"accuracy",
"and",
"there's",
"a",
"slight",
"chance",
"we're",
"looking",
"at",
"an",
"African",
"elephant",
"now",
"I",
"personally",
"probably",
"wouldn't",
"be",
"able",
"to",
"tell",
"you",
"the",
"difference",
"between",
"these",
"three",
"kinds",
"of",
"elephants",
"but",
"a",
"network",
"this",
"powerful",
"is",
"actually",
"able",
"to",
"do",
"it",
"with",
"a",
"high",
"degree",
"of",
"accuracy",
"but",
"we",
"don't",
"want",
"this",
"network",
"to",
"tell",
"us",
"the",
"categories",
"that",
"it",
"a",
"trained",
"on",
"we",
"want",
"it",
"to",
"tell",
"us",
"our",
"categories",
"for",
"our",
"grocery",
"data",
"set",
"so",
"let's",
"look",
"at",
"a",
"way",
"that",
"we",
"can",
"actually",
"do",
"that",
"first",
"let's",
"take",
"our",
"grocery",
"data",
"set",
"and",
"pre-process",
"it",
"exactly",
"the",
"same",
"way",
"that",
"the",
"resonant",
"authors",
"did",
"now",
"we",
"can",
"actually",
"go",
"into",
"the",
"resident",
"model",
"and",
"pull",
"out",
"specific",
"layers",
"that",
"we",
"want",
"to",
"use",
"in",
"this",
"case",
"we're",
"going",
"to",
"pull",
"out",
"the",
"second-to-last",
"lair",
"which",
"is",
"called",
"the",
"average",
"pool",
"lair",
"and",
"now",
"we",
"can",
"create",
"a",
"new",
"model",
"with",
"the",
"same",
"input",
"to",
"our",
"resident",
"model",
"but",
"now",
"instead",
"about",
"putting",
"a",
"thousand",
"categories",
"we're",
"gonna",
"output",
"this",
"last",
"layer",
"as",
"our",
"final",
"category",
"so",
"let's",
"take",
"a",
"look",
"and",
"see",
"what",
"this",
"model",
"actually",
"looks",
"like",
"still",
"a",
"massive",
"model",
"but",
"now",
"instead",
"of",
"a",
"thousand",
"categories",
"at",
"the",
"bottom",
"we",
"have",
"a",
"2048",
"length",
"vector",
"which",
"are",
"going",
"to",
"contain",
"what",
"we",
"hope",
"to",
"be",
"the",
"most",
"important",
"features",
"from",
"our",
"data",
"set",
"so",
"now",
"we",
"can",
"actually",
"take",
"our",
"pre-processed",
"grocery",
"data",
"set",
"and",
"run",
"it",
"through",
"this",
"new",
"model",
"that",
"we've",
"created",
"and",
"actually",
"extract",
"the",
"features",
"so",
"now",
"we're",
"going",
"to",
"transform",
"our",
"images",
"into",
"2048",
"length",
"vectors",
"of",
"numbers",
"that",
"we",
"can",
"use",
"to",
"train",
"a",
"new",
"model",
"on",
"and",
"we",
"hope",
"that",
"resident",
"has",
"created",
"features",
"that",
"are",
"going",
"to",
"be",
"much",
"easier",
"to",
"learn",
"from",
"than",
"our",
"original",
"image",
"data",
"we're",
"going",
"to",
"do",
"the",
"same",
"for",
"our",
"test",
"data",
"and",
"then",
"finally",
"we",
"can",
"create",
"a",
"new",
"model",
"which",
"is",
"a",
"simple",
"perceptron",
"again",
"with",
"25",
"categories",
"for",
"our",
"data",
"set",
"using",
"the",
"same",
"loss",
"and",
"optimizer",
"as",
"we",
"did",
"earlier",
"let's",
"go",
"ahead",
"and",
"fit",
"it",
"and",
"see",
"if",
"we",
"can",
"get",
"better",
"accuracy",
"than",
"our",
"first",
"try",
"look",
"at",
"that",
"right",
"off",
"the",
"bat",
"we're",
"getting",
"into",
"80%",
"validation",
"accuracy",
"you",
"might",
"also",
"notice",
"that",
"we",
"have",
"a",
"bit",
"of",
"an",
"over",
"fitting",
"problem",
"but",
"there",
"are",
"actually",
"additional",
"techniques",
"we",
"can",
"use",
"to",
"ensure",
"that",
"the",
"network",
"generalized",
"as",
"well",
"across",
"our",
"data",
"set",
"and",
"we",
"can",
"fix",
"this",
"issue",
"so",
"instead",
"of",
"just",
"extracting",
"the",
"features",
"which",
"is",
"great",
"because",
"it",
"actually",
"makes",
"our",
"model",
"train",
"really",
"fast",
"a",
"disadvantage",
"is",
"now",
"if",
"we",
"actually",
"deploy",
"this",
"model",
"we're",
"gonna",
"have",
"to",
"deploy",
"two",
"models",
"side",
"by",
"side",
"and",
"always",
"put",
"our",
"input",
"imagery",
"through",
"all",
"of",
"Brett's",
"net",
"and",
"then",
"separately",
"pass",
"that",
"output",
"into",
"the",
"next",
"model",
"caris",
"makes",
"it",
"really",
"easy",
"for",
"us",
"to",
"make",
"a",
"single",
"model",
"where",
"the",
"output",
"of",
"the",
"",
"model",
"can",
"just",
"go",
"directly",
"into",
"our",
"perceptron",
"so",
"we",
"do",
"this",
"here",
"but",
"creating",
"a",
"new",
"model",
"we",
"add",
"our",
"resonant",
"layers",
"and",
"our",
"new",
"final",
"dense",
"layer",
"then",
"we",
"turn",
"all",
"of",
"our",
"layers",
"to",
"be",
"trainable",
"equals",
"false",
"in",
"the",
"ResNet",
"network",
"so",
"when",
"we're",
"training",
"this",
"network",
"we",
"don't",
"want",
"any",
"of",
"the",
"layers",
"to",
"train",
"in",
"ResNet",
"instead",
"we're",
"just",
"going",
"to",
"tune",
"the",
"weights",
"in",
"our",
"final",
"dense",
"layer",
"so",
"now",
"you",
"can",
"see",
"there",
"are",
"23",
"million",
"parameters",
"in",
"this",
"network",
"but",
"only",
"51,000",
"of",
"them",
"are",
"trainable",
"now",
"if",
"we",
"run",
"training",
"you'll",
"see",
"that",
"it",
"actually",
"takes",
"a",
"lot",
"longer",
"to",
"train",
"this",
"is",
"because",
"every",
"batch",
"we're",
"passing",
"that",
"data",
"all",
"the",
"way",
"through",
"the",
"rest",
"net",
"network",
"and",
"doing",
"all",
"of",
"those",
"convolutions",
"and",
"different",
"arithmetic",
"so",
"it's",
"taking",
"much",
"longer",
"as",
"opposed",
"to",
"using",
"the",
"cached",
"output",
"features",
"that",
"we",
"had",
"used",
"before",
"but",
"the",
"advantage",
"of",
"this",
"is",
"now",
"you",
"have",
"a",
"single",
"model",
"that",
"you",
"can",
"use",
"to",
"continue",
"to",
"retrain",
"as",
"your",
"data",
"set",
"maybe",
"grows",
"or",
"you",
"change",
"different",
"labels",
"in",
"your",
"data",
"set",
"as",
"well",
"as",
"it's",
"much",
"easier",
"to",
"deploy",
"your",
"models",
"but",
"you",
"see",
"we're",
"getting",
"essentially",
"the",
"same",
"accuracy",
"as",
"we",
"were",
"getting",
"by",
"just",
"extracting",
"the",
"features",
"and",
"then",
"training",
"this",
"less",
"layer",
"alright",
"so",
"there's",
"one",
"more",
"technique",
"we",
"can",
"use",
"with",
"transfer",
"learning",
"that",
"will",
"actually",
"give",
"us",
"even",
"more",
"accuracy",
"this",
"is",
"known",
"as",
"fine-tuning",
"so",
"instead",
"of",
"just",
"training",
"our",
"our",
"layers",
"that",
"we",
"added",
"at",
"the",
"end",
"of",
"the",
"network",
"we",
"can",
"actually",
"take",
"a",
"subset",
"of",
"the",
"layers",
"in",
"the",
"resonant",
"network",
"and",
"allow",
"them",
"to",
"Train",
"as",
"well",
"so",
"the",
"reason",
"behind",
"this",
"is",
"the",
"way",
"these",
"networks",
"tend",
"to",
"learn",
"is",
"that",
"the",
"layers",
"much",
"higher",
"up",
"tend",
"to",
"extract",
"much",
"more",
"higher",
"level",
"features",
"things",
"that",
"would",
"be",
"shared",
"common",
"amongst",
"all",
"the",
"classes",
"in",
"your",
"dataset",
"whereas",
"the",
"layers",
"lower",
"in",
"the",
"network",
"tend",
"to",
"be",
"much",
"more",
"specific",
"and",
"are",
"looking",
"at",
"shapes",
"different",
"edges",
"that",
"are",
"going",
"to",
"be",
"very",
"specific",
"to",
"your",
"classes",
"or",
"in",
"this",
"case",
"the",
"classes",
"that",
"resident",
"was",
"trained",
"on",
"so",
"we",
"can",
"actually",
"take",
"these",
"final",
"layers",
"and",
"fine-tune",
"them",
"enable",
"them",
"to",
"change",
"their",
"weights",
"so",
"that",
"they",
"are",
"better",
"suited",
"for",
"our",
"classes",
"while",
"still",
"enabling",
"the",
"very",
"generic",
"layers",
"at",
"the",
"top",
"of",
"the",
"network",
"to",
"pass",
"down",
"the",
"most",
"meaningful",
"information",
"for",
"our",
"new",
"classifier",
"so",
"to",
"do",
"this",
"we",
"actually",
"set",
"the",
"resonate",
"to",
"be",
"trainable",
"now",
"and",
"we",
"go",
"into",
"the",
"network",
"and",
"actually",
"in",
"this",
"case",
"just",
"say",
"the",
"final",
"11",
"layers",
"out",
"of",
"the",
"hundred",
"or",
"so",
"that",
"are",
"in",
"retina",
"we're",
"going",
"to",
"allow",
"to",
"Train",
"whereas",
"the",
"the",
"first",
"layers",
"are",
"all",
"not",
"going",
"to",
"be",
"trainable",
"so",
"one",
"thing",
"to",
"note",
"when",
"you're",
"fine-tuning",
"is",
"that",
"because",
"the",
"weights",
"have",
"been",
"trained",
"on",
"a",
"very",
"large",
"data",
"set",
"and",
"are",
"going",
"to",
"be",
"very",
"specific",
"to",
"the",
"the",
"ResNet",
"data",
"set",
"when",
"we",
"start",
"to",
"fine-tune",
"those",
"weights",
"and",
"move",
"them",
"we're",
"likely",
"going",
"to",
"want",
"to",
"do",
"that",
"much",
"more",
"slowly",
"than",
"we",
"would",
"in",
"a",
"normal",
"network",
"so",
"this",
"is",
"a",
"case",
"where",
"instead",
"of",
"just",
"setting",
"optimizer",
"equal",
"to",
"Adam",
"you",
"would",
"want",
"to",
"actually",
"instantiate",
"a",
"new",
"instance",
"of",
"the",
"optimizer",
"and",
"slow",
"down",
"the",
"learning",
"rate",
"so",
"we",
"really",
"want",
"to",
"move",
"those",
"weights",
"in",
"the",
"last",
"layers",
"a",
"little",
"by",
"little",
"and",
"this",
"can",
"really",
"prevent",
"overfitting",
"on",
"our",
"data",
"set",
"which",
"can",
"be",
"easy",
"given",
"it's",
"it's",
"so",
"small",
"and",
"we",
"have",
"so",
"many",
"parameters",
"you",
"and",
"look",
"at",
"that",
"with",
"only",
"a",
"few",
"lines",
"we",
"were",
"able",
"to",
"leverage",
"cutting-edge",
"models",
"to",
"actually",
"get",
"72",
"percent",
"accuracy",
"on",
"our",
"Freiburg",
"grocery",
"data",
"set",
"remember",
"we",
"started",
"at",
"less",
"than",
"1%",
"accuracy",
"I'd",
"say",
"that's",
"a",
"pretty",
"good",
"day",
"at",
"the",
"office",
"you"
]
| [
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"keras",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"keras",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"adam",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Keras",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"resnet",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"layers!",
"ResNet",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"ResNet",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"trained",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"resnet",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"resnet",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"layer",
"",
"",
"",
"",
"",
"",
"layer",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"resnet",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"resnet",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Keras",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"resnet",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"last",
"layer.",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"accuracy.",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"well.",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"ResNet",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"resnet",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"resnet",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
""
]
| [
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
4,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0
]
|
H4MPIWX6ftE
| [
"all",
"the",
"examples",
"that",
"we",
"think",
"about",
"when",
"we",
"talk",
"about",
"you",
"know",
"machine",
"learning",
"from",
"like",
"you",
"know",
"like",
"hot",
"dog",
"not",
"hot",
"dog",
"to",
"like",
"you",
"know",
"predicting",
"the",
"stock",
"market",
"-",
"you",
"know",
"like",
"understanding",
"speech",
"all",
"these",
"things",
"that",
"you",
"really",
"think",
"about",
"classifying",
"things",
"you've",
"already",
"seen",
"right",
"when",
"we",
"look",
"at",
"the",
"M&S",
"data",
"set",
"where",
"we're",
"talking",
"about",
"labeling",
"numbers",
"0",
"through",
"9",
"but",
"we're",
"not",
"talking",
"about",
"recognizing",
"other",
"digits",
"that",
"we've",
"maybe",
"never",
"seen",
"before",
"right",
"in",
"the",
"real",
"world",
"it's",
"actually",
"common",
"that",
"you",
"want",
"to",
"classify",
"something",
"where",
"you've",
"literally",
"never",
"seen",
"it",
"and",
"humans",
"can",
"do",
"this",
"really",
"well",
"right",
"when",
"I",
"see",
"a",
"spatula",
"for",
"the",
"first",
"time",
"I",
"recognize",
"it",
"as",
"a",
"new",
"object",
"that",
"it",
"that",
"that",
"maybe",
"I",
"don't",
"know",
"the",
"name",
"for",
"it",
"but",
"I",
"recognize",
"it",
"that",
"it's",
"a",
"thing",
"and",
"I",
"can",
"recognize",
"if",
"I",
"see",
"it",
"again",
"oh",
"and",
"that's",
"that",
"thing",
"that",
"I",
"saw",
"before",
"so",
"how",
"do",
"we",
"make",
"computers",
"do",
"this",
"kind",
"of",
"classification",
"and",
"this",
"is",
"an",
"example",
"that's",
"called",
"sometimes",
"one",
"shot",
"or",
"zero",
"shot",
"or",
"sometimes",
"a",
"few",
"shot",
"if",
"you",
"have",
"a",
"couple",
"examples",
"and",
"it's",
"really",
"been",
"a",
"challenge",
"for",
"machine",
"learning",
"in",
"general",
"to",
"make",
"this",
"work",
"and",
"one",
"of",
"the",
"approaches",
"that",
"I",
"think",
"is",
"really",
"exciting",
"that",
"I",
"want",
"to",
"talk",
"about",
"today",
"there's",
"a",
"kind",
"of",
"reframing",
"of",
"the",
"problem",
"right",
"so",
"instead",
"of",
"looking",
"at",
"one",
"object",
"and",
"saying",
"what",
"is",
"this",
"object",
"and",
"training",
"on",
"that",
"what",
"I",
"want",
"to",
"do",
"is",
"train",
"on",
"pairs",
"of",
"objects",
"where",
"the",
"question",
"is",
"are",
"these",
"two",
"objects",
"the",
"same",
"and",
"now",
"it's",
"so",
"cool",
"about",
"that",
"is",
"that",
"if",
"instead",
"of",
"building",
"a",
"classifier",
"of",
"one",
"thing",
"at",
"a",
"time",
"I",
"believe",
"I",
"of",
"pairs",
"of",
"things",
"I",
"can",
"actually",
"look",
"at",
"something",
"new",
"and",
"look",
"at",
"one",
"example",
"maybe",
"a",
"canonical",
"example",
"of",
"that",
"thing",
"and",
"say",
"is",
"it",
"that",
"thing",
"right",
"so",
"my",
"classifier",
"can",
"potentially",
"generalize",
"not",
"just",
"to",
"classify",
"the",
"things",
"that",
"it's",
"seen",
"in",
"the",
"training",
"data",
"but",
"maybe",
"to",
"classify",
"anything",
"that",
"it",
"might",
"see",
"out",
"there",
"and",
"this",
"technique",
"is",
"really",
"generalizable",
"I'm",
"gonna",
"do",
"it",
"on",
"images",
"but",
"the",
"same",
"approach",
"can",
"be",
"used",
"on",
"video",
"it",
"can",
"be",
"used",
"on",
"audio",
"it",
"can",
"be",
"using",
"tons",
"of",
"tons",
"of",
"different",
"examples",
"so",
"let's",
"get",
"to",
"it",
"all",
"right",
"so",
"let's",
"walk",
"through",
"an",
"example",
"of",
"how",
"we're",
"gonna",
"do",
"this",
"and",
"I'm",
"gonna",
"do",
"this",
"on",
"the",
"emne",
"Stata",
"set",
"at",
"first",
"just",
"because",
"it's",
"a",
"data",
"set",
"you're",
"probably",
"familiar",
"with",
"from",
"previous",
"videos",
"and",
"it's",
"really",
"fast",
"to",
"run",
"experiments",
"on",
"so",
"first",
"you",
"know",
"we",
"have",
"the",
"requisite",
"lots",
"of",
"imports",
"and",
"then",
"we're",
"going",
"to",
"load",
"the",
"data",
"and",
"we're",
"gonna",
"load",
"it",
"exactly",
"the",
"same",
"as",
"we've",
"done",
"in",
"previous",
"videos",
"where",
"we",
"load",
"the",
"data",
"into",
"the",
"Train",
"ex",
"train",
"as",
"the",
"images",
"why",
"Train",
"is",
"the",
"labels",
"on",
"the",
"train",
"data",
"X",
"test",
"is",
"the",
"imagism",
"test",
"data",
"and",
"then",
"Y",
"train",
"is",
"the",
"labels",
"for",
"the",
"test",
"data",
"and",
"then",
"we're",
"going",
"to",
"normalize",
"just",
"like",
"we've",
"done",
"in",
"a",
"lot",
"of",
"other",
"videos",
"where",
"just",
"divide",
"the",
"values",
"by",
"255",
"so",
"that",
"our",
"pixels",
"are",
"between",
"0",
"&",
"1",
"instead",
"of",
"being",
"between",
"0",
"and",
"255",
"but",
"now",
"we're",
"gonna",
"do",
"something",
"new",
"we're",
"gonna",
"call",
"this",
"function",
"that",
"I",
"wrote",
"called",
"make",
"pairs",
"and",
"what",
"make",
"pairs",
"does",
"is",
"it",
"takes",
"in",
"input",
"data",
"and",
"labels",
"and",
"it",
"makes",
"a",
"new",
"kind",
"of",
"data",
"set",
"where",
"the",
"data",
"set",
"is",
"actually",
"pairs",
"of",
"images",
"and",
"here",
"the",
"label",
"is",
"actually",
"one",
"if",
"the",
"two",
"images",
"correspond",
"to",
"the",
"same",
"category",
"of",
"thing",
"and",
"0",
"if",
"they",
"correspond",
"to",
"different",
"categories",
"of",
"thing",
"so",
"I",
"just",
"wrote",
"a",
"little",
"bit",
"of",
"code",
"here",
"that",
"actually",
"just",
"randomly",
"walks",
"through",
"digits",
"and",
"then",
"picks",
"other",
"digits",
"that",
"match",
"and",
"then",
"adds",
"a",
"label",
"of",
"is",
"the",
"same",
"thing",
"and",
"then",
"it",
"finds",
"two",
"that",
"don't",
"match",
"and",
"adds",
"a",
"label",
"of",
"not",
"the",
"same",
"thing",
"so",
"what",
"comes",
"out",
"of",
"this",
"is",
"a",
"data",
"set",
"where",
"half",
"the",
"images",
"are",
"same",
"things",
"and",
"half",
"the",
"images",
"are",
"different",
"things",
"and",
"so",
"this",
"function",
"at",
"the",
"bottom",
"creates",
"a",
"new",
"variable",
"called",
"Paris",
"train",
"which",
"is",
"going",
"to",
"be",
"the",
"pairs",
"of",
"images",
"and",
"labels",
"train",
"which",
"is",
"going",
"to",
"be",
"either",
"a",
"zero",
"for",
"not",
"the",
"same",
"thing",
"or",
"one",
"for",
"the",
"same",
"thing",
"so",
"we",
"can",
"run",
"this",
"here",
"we",
"got",
"to",
"load",
"the",
"data",
"first",
"then",
"we",
"can",
"run",
"this",
"guy",
"and",
"you",
"know",
"as",
"usual",
"I",
"always",
"recommend",
"taking",
"a",
"little",
"peek",
"at",
"the",
"data",
"so",
"why",
"don't",
"we",
"look",
"at",
"Paris",
"train",
"here",
"for",
"comma",
"zero",
"and",
"it",
"turns",
"out",
"that",
"is",
"a",
"number",
"four",
"that's",
"just",
"an",
"accident",
"the",
"fourth",
"data",
"set",
"is",
"a",
"four",
"and",
"then",
"if",
"we",
"look",
"at",
"Paris",
"train",
"four",
"comma",
"one",
"that's",
"actually",
"a",
"different",
"looking",
"for",
"so",
"we",
"would",
"expect",
"then",
"labels",
"train",
"four",
"to",
"be",
"a",
"one",
"meaning",
"that",
"they're",
"the",
"same",
"image",
"so",
"why",
"don't",
"we",
"just",
"print",
"that",
"out",
"labels",
"train",
"four",
"and",
"yep",
"they're",
"the",
"same",
"image",
"we",
"could",
"look",
"at",
"maybe",
"the",
"400th",
"example",
"of",
"Paris",
"train",
"so",
"here",
"that's",
"a",
"one",
"and",
"then",
"if",
"we",
"look",
"at",
"the",
"adjacent",
"one",
"it's",
"a",
"another",
"one",
"a",
"little",
"bit",
"different",
"writing",
"but",
"the",
"same",
"the",
"same",
"thing",
"so",
"we've",
"transformed",
"our",
"data",
"and",
"now",
"what",
"are",
"we",
"gonna",
"do",
"with",
"it",
"right",
"so",
"you",
"know",
"naively",
"one",
"thing",
"we",
"could",
"do",
"is",
"actually",
"just",
"pass",
"in",
"each",
"image",
"into",
"a",
"separate",
"dense",
"network",
"and",
"then",
"concatenate",
"those",
"and",
"have",
"a",
"final",
"dense",
"layer",
"to",
"predict",
"same",
"image",
"or",
"a",
"different",
"image",
"so",
"that's",
"what",
"we're",
"gonna",
"do",
"here",
"so",
"here",
"our",
"first",
"sequential",
"model",
"is",
"just",
"a",
"flattened",
"and",
"then",
"a",
"dense",
"layer",
"so",
"this",
"is",
"just",
"the",
"perceptron",
"that",
"you",
"might",
"be",
"used",
"to",
"but",
"we're",
"gonna",
"use",
"a",
"reloj",
"activation",
"function",
"because",
"it's",
"kind",
"of",
"an",
"intermediate",
"piece",
"and",
"then",
"we're",
"actually",
"gonna",
"have",
"the",
"exact",
"same",
"layer",
"but",
"a",
"different",
"set",
"of",
"weights",
"and",
"now",
"here's",
"a",
"new",
"layer",
"you",
"might",
"not",
"have",
"seen",
"before",
"but",
"super",
"useful",
"it's",
"called",
"concatenate",
"so",
"what",
"that",
"does",
"is",
"actually",
"just",
"takes",
"two",
"layers",
"the",
"outputs",
"of",
"two",
"layers",
"and",
"puts",
"them",
"together",
"into",
"a",
"single",
"set",
"of",
"activations",
"so",
"no",
"parameters",
"it",
"just",
"combines",
"the",
"two",
"and",
"then",
"the",
"final",
"layer",
"I'm",
"calling",
"dense",
"layer",
"takes",
"as",
"inputs",
"the",
"things",
"from",
"the",
"merge",
"layer",
"and",
"then",
"outputs",
"a",
"single",
"number",
"and",
"hopefully",
"that's",
"going",
"to",
"be",
"a",
"one",
"if",
"the",
"images",
"are",
"the",
"same",
"and",
"is",
"zero",
"if",
"the",
"images",
"are",
"not",
"the",
"same",
"so",
"use",
"a",
"sigmoid",
"activation",
"function",
"because",
"it's",
"kind",
"of",
"a",
"binary",
"classification",
"and",
"then",
"we",
"use",
"the",
"Charis",
"functional",
"definition",
"to",
"define",
"this",
"because",
"actually",
"not",
"a",
"sequential",
"model",
"right",
"because",
"we",
"have",
"two",
"inputs",
"and",
"then",
"we're",
"combining",
"them",
"it's",
"not",
"just",
"a",
"simple",
"sequential",
"model",
"we",
"might",
"be",
"used",
"to",
"and",
"so",
"we",
"use",
"a",
"more",
"complicated",
"way",
"of",
"defining",
"it",
"then",
"we",
"compile",
"the",
"model",
"we",
"use",
"binary",
"cross-entropy",
"because",
"we're",
"doing",
"a",
"single",
"binary",
"classification",
"and",
"these",
"are",
"our",
"standard",
"atom",
"optimizer",
"and",
"we're",
"gonna",
"output",
"the",
"accuracy",
"so",
"let's",
"take",
"a",
"quick",
"look",
"at",
"what",
"this",
"model",
"looks",
"like",
"before",
"we",
"run",
"it",
"here",
"you",
"can",
"see",
"here",
"that",
"we",
"have",
"100,000",
"parameters",
"in",
"our",
"dense",
"layer",
"that",
"corresponds",
"to",
"image",
"1",
"and",
"100,000",
"parameters",
"that",
"corresponds",
"to",
"our",
"image",
"2",
"and",
"then",
"each",
"of",
"those",
"fully",
"connected",
"layers",
"they",
"output",
"128",
"numbers",
"we",
"combine",
"those",
"into",
"256",
"numbers",
"and",
"then",
"we",
"have",
"a",
"single",
"perceptron",
"with",
"256",
"inputs",
"and",
"one",
"single",
"output",
"at",
"the",
"bottom",
"of",
"our",
"network",
"so",
"in",
"total",
"it's",
"about",
"200",
"thousand",
"parameters",
"and",
"we",
"can",
"call",
"fit",
"here",
"and",
"now",
"again",
"we'll",
"call",
"fit",
"on",
"actually",
"pairs",
"train",
"0",
"right",
"so",
"that's",
"one",
"of",
"the",
"input",
"images",
"pairs",
"train",
"1",
"which",
"is",
"the",
"other",
"set",
"of",
"input",
"images",
"and",
"then",
"labels",
"train",
"which",
"is",
"again",
"the",
"binary",
"number",
"0",
"if",
"the",
"images",
"don't",
"match",
"and",
"1",
"if",
"they",
"do",
"match",
"so",
"let's",
"set",
"that",
"to",
"say",
"10",
"epochs",
"and",
"let",
"our",
"model",
"train",
"so",
"this",
"architecture",
"does",
"work",
"barely",
"so",
"you",
"can",
"see",
"that",
"in",
"every",
"step",
"it",
"actually",
"is",
"improving",
"the",
"accuracy",
"but",
"by",
"about",
"like",
"0.5%",
"and",
"it's",
"starting",
"at",
"a",
"50",
"percent",
"accuracy",
"so",
"better",
"than",
"random",
"which",
"is",
"better",
"than",
"a",
"lot",
"of",
"the",
"networks",
"that",
"I've",
"made",
"in",
"my",
"life",
"and",
"we're",
"kind",
"of",
"onto",
"something",
"good",
"but",
"it",
"seems",
"pretty",
"clear",
"that",
"we're",
"gonna",
"need",
"to",
"make",
"this",
"work",
"better",
"so",
"we've",
"done",
"so",
"far",
"it",
"doesn't",
"work",
"super",
"well",
"it's",
"unclear",
"actually",
"how",
"well",
"it'll",
"ever",
"work",
"it",
"does",
"work",
"better",
"than",
"random",
"but",
"it's",
"not",
"working",
"super",
"well",
"it's",
"not",
"typically",
"what",
"people",
"do",
"when",
"they",
"encounter",
"the",
"situation",
"where",
"they",
"want",
"to",
"do",
"one-shot",
"learning",
"what",
"they",
"really",
"do",
"is",
"they",
"share",
"weights",
"across",
"the",
"model",
"right",
"so",
"sharing",
"weights",
"across",
"layers",
"is",
"actually",
"pretty",
"common",
"in",
"more",
"advanced",
"architectures",
"but",
"we",
"haven't",
"done",
"it",
"yet",
"so",
"it's",
"a",
"good",
"thing",
"to",
"know",
"and",
"it's",
"actually",
"really",
"effective",
"in",
"this",
"case",
"it's",
"one",
"of",
"the",
"things",
"we",
"have",
"to",
"do",
"to",
"make",
"this",
"thing",
"really",
"work",
"well",
"and",
"the",
"intuition",
"is",
"that",
"the",
"model",
"that",
"we're",
"running",
"on",
"the",
"first",
"input",
"image",
"and",
"the",
"model",
"it",
"running",
"on",
"the",
"second",
"input",
"image",
"really",
"it",
"seems",
"like",
"they",
"should",
"be",
"the",
"same",
"model",
"right",
"because",
"the",
"images",
"are",
"drawn",
"from",
"the",
"same",
"set",
"of",
"overall",
"images",
"and",
"so",
"the",
"transform",
"that",
"you",
"want",
"to",
"do",
"on",
"one",
"image",
"seems",
"like",
"it",
"shouldn't",
"really",
"be",
"the",
"transform",
"that",
"we",
"do",
"on",
"the",
"other",
"image",
"in",
"order",
"to",
"do",
"this",
"in",
"order",
"to",
"share",
"weights",
"across",
"the",
"model",
"we",
"have",
"to",
"actually",
"use",
"more",
"of",
"Harrises",
"functional",
"model",
"definition",
"and",
"I",
"think",
"this",
"gets",
"a",
"little",
"confusing",
"because",
"when",
"we",
"define",
"a",
"layer",
"in",
"the",
"in",
"the",
"functional",
"definition",
"we",
"actually",
"it",
"sort",
"of",
"just",
"sets",
"up",
"the",
"specification",
"for",
"the",
"layer",
"and",
"it",
"doesn't",
"actually",
"really",
"attach",
"it",
"to",
"some",
"input",
"until",
"we",
"call",
"a",
"function",
"on",
"that",
"layer",
"once",
"specified",
"so",
"then",
"we",
"set",
"up",
"a",
"model",
"right",
"and",
"so",
"we",
"actually",
"say",
"that",
"the",
"input",
"is",
"going",
"to",
"be",
"this",
"input",
"and",
"actually",
"what",
"the",
"model",
"does",
"is",
"going",
"to",
"be",
"this",
"flat",
"and",
"step",
"in",
"then",
"the",
"stent",
"step",
"but",
"now",
"we",
"haven't",
"actually",
"attached",
"this",
"model",
"to",
"any",
"input",
"so",
"what",
"we're",
"gonna",
"do",
"we're",
"actually",
"gonna",
"attach",
"it",
"to",
"two",
"different",
"inputs",
"we're",
"gonna",
"attach",
"it",
"to",
"input",
"1",
"and",
"input",
"2",
"and",
"so",
"I",
"call",
"the",
"model",
"that's",
"attached",
"to",
"input",
"1",
"dense",
"1",
"and",
"the",
"model",
"attached",
"to",
"input",
"2",
"dense",
"2",
"so",
"we",
"have",
"two",
"separate",
"models",
"but",
"they're",
"attached",
"two",
"different",
"inputs",
"so",
"we",
"can",
"actually",
"take",
"those",
"and",
"we",
"can",
"use",
"that",
"same",
"concatenate",
"layer",
"that",
"we",
"used",
"before",
"to",
"combine",
"them",
"and",
"then",
"we",
"can",
"add",
"that",
"same",
"dense",
"layer",
"that",
"we",
"had",
"before",
"and",
"that's",
"gonna",
"output",
"a",
"single",
"number",
"and",
"we're",
"going",
"to",
"use",
"a",
"sigmoid",
"activation",
"layer",
"and",
"that",
"number",
"is",
"obviously",
"going",
"to",
"be",
"one",
"if",
"we",
"think",
"that",
"these",
"two",
"images",
"are",
"corresponding",
"the",
"same",
"number",
"and",
"zero",
"if",
"they're",
"like",
"two",
"different",
"numbers",
"so",
"we",
"can",
"pile",
"the",
"model",
"in",
"the",
"same",
"way",
"we",
"did",
"before",
"and",
"then",
"we",
"can",
"take",
"a",
"quick",
"look",
"at",
"it",
"and",
"we",
"can",
"see",
"that",
"actually",
"this",
"model",
"should",
"have",
"about",
"half",
"the",
"number",
"of",
"parameters",
"of",
"the",
"previous",
"model",
"because",
"we're",
"sharing",
"those",
"parameters",
"right",
"so",
"whereas",
"before",
"we",
"had",
"kind",
"of",
"two",
"layers",
"each",
"with",
"a",
"hundred",
"thousand",
"parameters",
"now",
"we",
"only",
"have",
"one",
"set",
"of",
"a",
"hundred",
"thousand",
"parameters",
"but",
"it's",
"it's",
"actually",
"two",
"different",
"layers",
"are",
"getting",
"called",
"but",
"each",
"of",
"those",
"shared",
"parameters",
"so",
"we",
"can",
"run",
"this",
"model",
"too",
"and",
"spoiler",
"alert",
"it",
"works",
"a",
"little",
"bit",
"better",
"than",
"the",
"last",
"thing",
"we",
"did",
"but",
"not",
"a",
"lot",
"better",
"because",
"there's",
"actually",
"one",
"more",
"fancy",
"optimization",
"that",
"we",
"need",
"to",
"add",
"in",
"and",
"then",
"we'll",
"have",
"kind",
"of",
"the",
"typical",
"setup",
"of",
"what's",
"called",
"the",
"siamese",
"Network",
"which",
"is",
"actually",
"an",
"old",
"concept",
"you",
"came",
"you",
"know",
"it",
"was",
"talked",
"about",
"in",
"the",
"90s",
"but",
"I",
"feel",
"like",
"it's",
"had",
"renewed",
"interest",
"in",
"various",
"forms",
"as",
"people",
"have",
"gotten",
"more",
"and",
"more",
"excited",
"about",
"deep",
"learning",
"and",
"it's",
"kind",
"of",
"one",
"shot",
"learning",
"problem",
"specifically",
"so",
"you",
"knew",
"from",
"Charis",
"import",
"back-end",
"as",
"Kay",
"and",
"this",
"kind",
"of",
"harkens",
"back",
"to",
"the",
"time",
"when",
"Karis",
"had",
"typically",
"multiple",
"backends",
"these",
"days",
"really",
"it's",
"almost",
"always",
"tensorflow",
"so",
"I",
"just",
"sort",
"of",
"look",
"at",
"any",
"tensorflow",
"operation",
"is",
"something",
"that",
"I",
"can",
"run",
"here",
"and",
"now",
"I",
"define",
"a",
"function",
"where",
"it",
"takes",
"in",
"inputs",
"which",
"actually",
"going",
"to",
"be",
"tensor",
"flow",
"tensors",
"and",
"then",
"I",
"can",
"call",
"K",
"dot",
"and",
"then",
"any",
"tensor",
"flow",
"of",
"operation",
"that",
"I",
"can",
"find",
"so",
"here",
"I'm",
"using",
"some",
"and",
"square",
"and",
"square",
"root",
"and",
"maximum",
"really",
"all",
"this",
"is",
"doing",
"is",
"it's",
"basically",
"looking",
"at",
"the",
"sum",
"of",
"the",
"squares",
"of",
"the",
"differences",
"between",
"the",
"two",
"inputs",
"right",
"so",
"it's",
"kind",
"of",
"a",
"simple",
"they",
"call",
"Euclidean",
"distance",
"it's",
"really",
"just",
"how",
"different",
"are",
"the",
"outputs",
"of",
"my",
"two",
"different",
"networks",
"that's",
"what",
"we're",
"gonna",
"do",
"with",
"it",
"we're",
"gonna",
"feed",
"in",
"the",
"outputs",
"of",
"each",
"network",
"and",
"then",
"we're",
"going",
"to",
"compare",
"them",
"using",
"the",
"Euclidean",
"distance",
"so",
"we",
"define",
"this",
"nice",
"little",
"Euclidean",
"distance",
"function",
"and",
"then",
"we",
"add",
"a",
"new",
"layer",
"it's",
"called",
"a",
"lambda",
"layer",
"which",
"implies",
"kind",
"of",
"a",
"lambda",
"function",
"and",
"we",
"actually",
"pass",
"in",
"our",
"Euclidean",
"distance",
"function",
"and",
"so",
"now",
"we're",
"actually",
"building",
"our",
"own",
"custom",
"tensor",
"flow",
"operations",
"as",
"a",
"layer",
"and",
"what",
"this",
"does",
"is",
"it",
"basically",
"lets",
"the",
"network",
"instead",
"of",
"trying",
"to",
"figure",
"out",
"what",
"it",
"should",
"do",
"with",
"the",
"outputs",
"of",
"these",
"two",
"networks",
"that",
"we've",
"defined",
"it",
"just",
"knows",
"that",
"really",
"what",
"I",
"want",
"is",
"the",
"outputs",
"of",
"these",
"two",
"networks",
"to",
"be",
"similar",
"right",
"so",
"the",
"more",
"similar",
"the",
"outputs",
"of",
"my",
"two",
"networks",
"are",
"the",
"more",
"likely",
"the",
"model",
"thinks",
"that",
"the",
"two",
"inputs",
"are",
"the",
"same",
"of",
"course",
"buying",
"the",
"same",
"number",
"so",
"let's",
"run",
"this",
"this",
"network",
"and",
"we",
"can",
"compile",
"it",
"and",
"look",
"at",
"it",
"I'm",
"just",
"like",
"we",
"did",
"before",
"and",
"we",
"see",
"that",
"it's",
"very",
"similar",
"to",
"the",
"previous",
"model",
"but",
"we",
"don't",
"have",
"that",
"last",
"big",
"dense",
"layer",
"to",
"figure",
"things",
"out",
"and",
"then",
"when",
"you",
"run",
"this",
"network",
"we",
"actually",
"see",
"a",
"market",
"improvement",
"right",
"in",
"the",
"first",
"epoch",
"we're",
"already",
"seeing",
"accuracy",
"above",
"70%",
"so",
"by",
"taking",
"out",
"some",
"of",
"the",
"complexity",
"and",
"again",
"just",
"pushing",
"the",
"complexity",
"into",
"the",
"code",
"we've",
"actually",
"made",
"a",
"much",
"more",
"effective",
"siamese",
"network",
"so",
"you",
"know",
"the",
"real",
"reason",
"to",
"do",
"this",
"is",
"not",
"the",
"amnesty",
"to",
"set",
"right",
"I",
"mean",
"it",
"seems",
"unlikely",
"that",
"you'd",
"want",
"to",
"generalize",
"to",
"some",
"other",
"digit",
"that",
"we",
"haven't",
"seen",
"before",
"but",
"there",
"actually",
"are",
"lots",
"of",
"cases",
"where",
"you'd",
"want",
"to",
"do",
"it",
"in",
"one",
"case",
"is",
"in",
"handwriting",
"where",
"you",
"might",
"see",
"characters",
"that",
"you",
"haven't",
"seen",
"before",
"and",
"a",
"super",
"cool",
"data",
"set",
"to",
"do",
"this",
"on",
"that's",
"that's",
"really",
"fun",
"and",
"a",
"lot",
"like",
"chemists",
"is",
"the",
"Omniglot",
"data",
"set",
"so",
"I'm",
"actually",
"left",
"in",
"a",
"little",
"bit",
"of",
"code",
"to",
"load",
"in",
"the",
"AMA",
"neglect",
"data",
"set",
"which",
"actually",
"loads",
"in",
"lots",
"and",
"lots",
"of",
"different",
"characters",
"from",
"lots",
"and",
"lots",
"of",
"different",
"languages",
"and",
"so",
"I",
"think",
"a",
"fun",
"next",
"step",
"to",
"do",
"would",
"be",
"to",
"run",
"this",
"exact",
"same",
"architecture",
"on",
"the",
"Omniglot",
"data",
"set",
"and",
"see",
"if",
"you",
"can",
"recognize",
"characters",
"and",
"actually",
"see",
"if",
"you",
"can",
"build",
"a",
"system",
"that",
"can",
"recognize",
"characters",
"in",
"one",
"alphabet",
"and",
"generalize",
"to",
"other",
"alphabets",
"because",
"that",
"is",
"really",
"magical",
"and",
"powerful",
"and",
"really",
"shows",
"off",
"why",
"one-shot",
"learning",
"can",
"be",
"really",
"effective",
"and",
"especially",
"why",
"Siamese",
"networks",
"work",
"really",
"well",
"for",
"this",
"application"
]
| [
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"MNIST",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"is",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"what's",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"MNIST",
"Data",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Train,",
"x",
"",
"is",
"",
"",
"Y",
"",
"",
"",
"",
"",
"",
"training",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"pairs",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"pairs",
"",
"",
"four",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"pairs",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"four",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Pairs",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"relu",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"keras",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"adam",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Keras's",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"this",
"dense",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Keras",
"",
"",
"",
"K",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Karas",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"sum",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"marked",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"mnist",
"data",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
""
]
| [
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
7,
0,
7,
0,
0,
7,
0,
0,
0,
0,
0,
0,
4,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0
]
|
Qf4YJcHXtcY
| [
"so",
"audio",
"is",
"a",
"huge",
"field",
"and",
"it's",
"actually",
"arguably",
"the",
"field",
"that",
"really",
"started",
"the",
"interest",
"in",
"deep",
"learning",
"so",
"we",
"are",
"just",
"gonna",
"scratch",
"the",
"very",
"very",
"surface",
"of",
"audio",
"in",
"this",
"video",
"and",
"what",
"I",
"really",
"want",
"to",
"show",
"you",
"is",
"that",
"we",
"can",
"take",
"the",
"exact",
"same",
"techniques",
"that",
"we",
"applied",
"to",
"text",
"and",
"image",
"classification",
"and",
"apply",
"it",
"to",
"audio",
"now",
"it's",
"not",
"totally",
"obvious",
"how",
"you",
"do",
"that",
"right",
"I",
"mean",
"like",
"audio",
"comes",
"in",
"really",
"different",
"format",
"than",
"like",
"an",
"image",
"or",
"text",
"right",
"basically",
"typically",
"we",
"represent",
"it",
"as",
"kind",
"of",
"like",
"a",
"wave",
"or",
"maybe",
"two",
"waves",
"if",
"you",
"have",
"stereo",
"sound",
"so",
"how",
"do",
"we",
"actually",
"get",
"it",
"in",
"a",
"format",
"where",
"we",
"can",
"process",
"it",
"and",
"what",
"do",
"we",
"do",
"with",
"it",
"you",
"know",
"audio",
"files",
"are",
"tend",
"to",
"be",
"big",
"and",
"it",
"tends",
"to",
"be",
"just",
"complicated",
"to",
"ingest",
"them",
"and",
"handle",
"them",
"so",
"I'm",
"gonna",
"do",
"a",
"very",
"very",
"small",
"classification",
"example",
"the",
"ideas",
"we",
"want",
"to",
"classify",
"people",
"saying",
"different",
"specific",
"words",
"and",
"we're",
"gonna",
"see",
"how",
"well",
"we",
"can",
"do",
"that",
"with",
"some",
"really",
"simple",
"caris",
"techniques",
"so",
"here's",
"the",
"task",
"we",
"want",
"to",
"classify",
"sounds",
"and",
"the",
"sounds",
"are",
"people",
"speaking",
"and",
"we",
"classify",
"them",
"into",
"what",
"the",
"person",
"is",
"saying",
"so",
"I",
"found",
"online",
"WAV",
"files",
"of",
"various",
"people",
"saying",
"the",
"words",
"bed",
"happy",
"and",
"cat",
"and",
"actually",
"there",
"were",
"a",
"lot",
"more",
"sets",
"of",
"WAV",
"files",
"there",
"so",
"you",
"can",
"follow",
"a",
"link",
"we'll",
"put",
"in",
"the",
"comments",
"to",
"download",
"more",
"if",
"you",
"want",
"to",
"classify",
"different",
"words",
"and",
"what",
"we're",
"gonna",
"do",
"is",
"we're",
"going",
"to",
"take",
"those",
"WAV",
"files",
"do",
"some",
"transformations",
"on",
"it",
"and",
"then",
"run",
"various",
"types",
"of",
"neural",
"nets",
"to",
"see",
"how",
"well",
"they",
"classify",
"this",
"data",
"so",
"you",
"know",
"first",
"of",
"all",
"we",
"do",
"this",
"standard",
"sort",
"of",
"importing",
"libraries",
"like",
"Kerris",
"and",
"actually",
"a",
"pre",
"process",
"library",
"that",
"I",
"mostly",
"copied",
"from",
"another",
"audio",
"processing",
"git",
"project",
"and",
"that's",
"as",
"things",
"like",
"transform",
"the",
"WAV",
"files",
"into",
"spectrograms",
"so",
"the",
"next",
"thing",
"that's",
"going",
"to",
"happen",
"is",
"we",
"set",
"the",
"number",
"of",
"buckets",
"in",
"our",
"spectrogram",
"and",
"we",
"set",
"the",
"length",
"of",
"time",
"that",
"we",
"want",
"to",
"operate",
"over",
"and",
"then",
"we",
"use",
"a",
"function",
"from",
"this",
"pre-processing",
"library",
"to",
"transform",
"these",
"wav",
"files",
"into",
"something",
"that",
"looks",
"more",
"like",
"a",
"sonic",
"spectrogram",
"now",
"you",
"may",
"not",
"have",
"seen",
"a",
"spectrogram",
"before",
"you",
"can",
"find",
"lots",
"of",
"apps",
"that",
"do",
"this",
"in",
"a",
"spectrogram",
"the",
"x-axis",
"is",
"time",
"typically",
"and",
"the",
"y-axis",
"is",
"the",
"frequency",
"of",
"sound",
"and",
"then",
"the",
"darkness",
"is",
"the",
"amount",
"of",
"energy",
"at",
"that",
"frequency",
"so",
"in",
"music",
"or",
"in",
"science",
"you",
"typically",
"get",
"these",
"spectrograms",
"that",
"have",
"sort",
"of",
"even",
"intervals",
"or",
"logarithmic",
"intervals",
"between",
"the",
"frequencies",
"but",
"actually",
"when",
"you're",
"processing",
"speech",
"and",
"there's",
"a",
"slightly",
"different",
"transformation",
"that",
"people",
"typically",
"do",
"called",
"M",
"FCC",
"and",
"so",
"that's",
"the",
"one",
"that",
"I",
"do",
"here",
"but",
"you",
"can",
"just",
"roughly",
"think",
"of",
"it",
"as",
"buckets",
"of",
"frequencies",
"and",
"kind",
"of",
"buckets",
"of",
"time",
"so",
"we",
"do",
"that",
"transformation",
"and",
"then",
"we",
"actually",
"load",
"the",
"training",
"and",
"test",
"set",
"into",
"the",
"familiar",
"X",
"train",
"X",
"test",
"Whiterun",
"Y",
"test",
"values",
"this",
"is",
"just",
"like",
"you",
"know",
"previous",
"videos",
"X",
"train",
"was",
"off",
"in",
"a",
"set",
"of",
"images",
"in",
"previous",
"videos",
"in",
"this",
"video",
"it's",
"going",
"to",
"be",
"sets",
"of",
"audio",
"spectrograms",
"essentially",
"an",
"X",
"test",
"is",
"going",
"to",
"be",
"validation",
"data",
"for",
"that",
"Y",
"train",
"is",
"going",
"to",
"be",
"the",
"labels",
"so",
"0",
"corresponds",
"to",
"bed",
"one",
"corresponds",
"to",
"happy",
"and",
"two",
"corresponds",
"to",
"cat",
"and",
"Y",
"test",
"is",
"the",
"same",
"but",
"correspond",
"to",
"the",
"the",
"test",
"data",
"then",
"we're",
"gonna",
"actually",
"reshape",
"our",
"our",
"data",
"a",
"little",
"bit",
"we're",
"gonna",
"add",
"a",
"channel",
"element",
"and",
"this",
"is",
"because",
"typically",
"with",
"audio",
"you're",
"gonna",
"have",
"a",
"left",
"channel",
"and",
"right",
"channel",
"now",
"in",
"this",
"case",
"we've",
"actually",
"removed",
"the",
"channel",
"so",
"there",
"really",
"is",
"only",
"one",
"channel",
"but",
"this",
"might",
"make",
"the",
"code",
"a",
"little",
"more",
"generalizable",
"to",
"typical",
"audio",
"files",
"that",
"you'll",
"see",
"out",
"there",
"in",
"the",
"wild",
"and",
"then",
"you",
"know",
"before",
"we",
"do",
"anything",
"else",
"I",
"think",
"it's",
"nice",
"to",
"take",
"a",
"look",
"at",
"the",
"data",
"that",
"we're",
"dealing",
"with",
"with",
"the",
"imshow",
"commands",
"and",
"now",
"that",
"works",
"super",
"well",
"when",
"we're",
"dealing",
"with",
"images",
"right",
"you",
"can",
"actually",
"look",
"at",
"the",
"imaging",
"see",
"oh",
"that's",
"a",
"number",
"4",
"or",
"oh",
"that's",
"a",
"picture",
"of",
"my",
"friend's",
"face",
"with",
"audio",
"spectrograms",
"it's",
"a",
"little",
"less",
"clear",
"what's",
"going",
"on",
"but",
"it's",
"kind",
"of",
"nice",
"to",
"look",
"at",
"anyway",
"so",
"we",
"could",
"you",
"know",
"look",
"at",
"the",
"hundredths",
"value",
"of",
"X",
"train",
"and",
"we",
"can",
"see",
"that",
"it",
"seems",
"like",
"it",
"starts",
"off",
"a",
"little",
"quieter",
"and",
"maybe",
"gets",
"a",
"little",
"bit",
"louder",
"it's",
"a",
"it's",
"a",
"little",
"hard",
"to",
"interpret",
"we",
"can",
"also",
"print",
"out",
"the",
"corresponding",
"Y",
"train",
"label",
"and",
"see",
"what",
"that",
"what",
"that",
"was",
"and",
"it",
"looks",
"to",
"me",
"like",
"it",
"must",
"be",
"the",
"zeroeth",
"label",
"and",
"that",
"would",
"be",
"bed",
"so",
"this",
"is",
"this",
"this",
"is",
"some",
"kind",
"of",
"distorted",
"spectrogram",
"with",
"somebody",
"saying",
"bed",
"one",
"more",
"thing",
"before",
"I",
"get",
"we",
"have",
"to",
"transform",
"why",
"train",
"and",
"why",
"test",
"into",
"one",
"hot",
"versions",
"of",
"those",
"so",
"we",
"talk",
"about",
"this",
"a",
"lot",
"in",
"in",
"previous",
"videos",
"and",
"you",
"can",
"find",
"it",
"there",
"but",
"essentially",
"going",
"from",
"this",
"single",
"number",
"to",
"a",
"vector",
"numbers",
"where",
"the",
"one",
"corresponds",
"to",
"the",
"label",
"that",
"we",
"want",
"and",
"you",
"then",
"you",
"know",
"as",
"usual",
"we're",
"gonna",
"start",
"with",
"kind",
"of",
"the",
"simplest",
"possible",
"model",
"and",
"in",
"that",
"case",
"it's",
"a",
"perceptron",
"so",
"as",
"usual",
"we're",
"gonna",
"first",
"call",
"flatten",
"to",
"kind",
"of",
"remove",
"all",
"the",
"structure",
"of",
"our",
"data",
"so",
"the",
"buckets",
"in",
"the",
"length",
"of",
"the",
"channel",
"are",
"going",
"to",
"flatten",
"it",
"all",
"that",
"out",
"into",
"a",
"single",
"vector",
"and",
"then",
"we're",
"gonna",
"call",
"a",
"dense",
"layer",
"on",
"that",
"and",
"that's",
"going",
"to",
"be",
"a",
"fully",
"connected",
"layer",
"and",
"within",
"this",
"case",
"three",
"different",
"outputs",
"one",
"corresponding",
"to",
"each",
"word",
"that",
"we're",
"trying",
"to",
"classify",
"and",
"the",
"typical",
"softmax",
"activation",
"function",
"we",
"use",
"when",
"we're",
"trying",
"to",
"do",
"multi-class",
"classification",
"we're",
"gonna",
"use",
"categorical",
"cross",
"entropy",
"as",
"usual",
"and",
"the",
"atom",
"optimizer",
"and",
"we're",
"also",
"gonna",
"report",
"on",
"accuracy",
"in",
"this",
"case",
"all",
"right",
"so",
"let's",
"let's",
"fit",
"that",
"model",
"and",
"you",
"can",
"see",
"that",
"in",
"this",
"case",
"because",
"the",
"data",
"sets",
"reasonably",
"small",
"the",
"model",
"runs",
"quite",
"fast",
"but",
"you",
"know",
"you",
"can",
"actually",
"see",
"that",
"this",
"very",
"simple",
"linear",
"model",
"gets",
"us",
"around",
"approximately",
"80%",
"accuracy",
"on",
"the",
"the",
"validation",
"data",
"which",
"is",
"not",
"bad",
"okay",
"so",
"now",
"here's",
"the",
"really",
"cool",
"thing",
"because",
"we",
"have",
"our",
"data",
"in",
"such",
"a",
"standard",
"format",
"we",
"can",
"actually",
"pull",
"from",
"all",
"the",
"different",
"types",
"of",
"models",
"that",
"we've",
"built",
"in",
"earlier",
"videos",
"to",
"make",
"this",
"model",
"better",
"so",
"the",
"first",
"thing",
"we",
"can",
"try",
"and",
"this",
"is",
"something",
"that",
"people",
"really",
"do",
"we",
"can",
"apply",
"a",
"convolutional",
"network",
"to",
"this",
"now",
"you",
"might",
"argue",
"that",
"maybe",
"we",
"should",
"use",
"a",
"1d",
"convolution",
"more",
"like",
"text",
"and",
"you",
"can",
"try",
"that",
"right",
"because",
"maybe",
"you",
"know",
"each",
"you",
"can",
"think",
"of",
"each",
"frequency",
"as",
"a",
"separate",
"channel",
"but",
"because",
"actually",
"the",
"channels",
"do",
"have",
"meaning",
"or",
"the",
"the",
"frequencies",
"do",
"have",
"meaning",
"like",
"two",
"frequencies",
"close",
"to",
"each",
"other",
"actually",
"are",
"kind",
"of",
"semantically",
"close",
"I",
"think",
"a",
"two",
"deconvolution",
"is",
"a",
"reasonable",
"thing",
"also",
"to",
"try",
"so",
"let's",
"start",
"with",
"that",
"and",
"you",
"can",
"find",
"in",
"my",
"ml",
"class",
"videos",
"directory",
"you",
"can",
"actually",
"find",
"examples",
"of",
"all",
"these",
"different",
"classifiers",
"so",
"let's",
"actually",
"just",
"go",
"into",
"CN",
"n",
"dot",
"pi",
"and",
"see",
"what",
"happens",
"when",
"we",
"paste",
"in",
"a",
"standard",
"kind",
"of",
"one",
"level",
"convolutional",
"neural",
"network",
"so",
"we",
"can",
"just",
"copy",
"this",
"model",
"code",
"right",
"into",
"our",
"notebook",
"here",
"and",
"now",
"we",
"just",
"have",
"to",
"change",
"the",
"input",
"shape",
"to",
"be",
"buckets",
"Len",
"and",
"channels",
"and",
"we",
"can",
"just",
"set",
"this",
"to",
"be",
"a",
"3x3",
"convolution",
"so",
"the",
"dense",
"layer",
"size",
"to",
"128",
"we",
"can",
"compile",
"the",
"model",
"in",
"the",
"same",
"way",
"and",
"then",
"we",
"can",
"fit",
"the",
"model",
"in",
"the",
"exact",
"same",
"way",
"and",
"again",
"because",
"it's",
"such",
"a",
"small",
"number",
"of",
"samples",
"it",
"learns",
"very",
"fast",
"let's",
"take",
"a",
"look",
"in",
"the",
"app",
"and",
"actually",
"this",
"model",
"is",
"very",
"very",
"good",
"right",
"so",
"this",
"model",
"gets",
"over",
"90%",
"accuracy",
"ninety-three",
"ninety-four",
"percent",
"accuracy",
"on",
"our",
"test",
"stated",
"it's",
"right",
"off",
"the",
"bat",
"which",
"is",
"really",
"cool",
"we've",
"actually",
"taken",
"the",
"machinery",
"that",
"we've",
"learned",
"in",
"different",
"domains",
"and",
"applied",
"it",
"this",
"toy",
"different",
"domain",
"and",
"the",
"same",
"intuition",
"that",
"we",
"had",
"that",
"you",
"know",
"convolutions",
"might",
"work",
"better",
"actually",
"turns",
"out",
"to",
"be",
"the",
"case",
"and",
"you",
"might",
"think",
"well",
"if",
"one",
"convolution",
"works",
"well",
"what",
"about",
"two",
"convolutions",
"so",
"we",
"can",
"take",
"this",
"same",
"thing",
"that",
"we",
"did",
"before",
"and",
"take",
"a",
"convolution",
"and",
"a",
"pooling",
"and",
"then",
"a",
"second",
"convolution",
"in",
"a",
"pooling",
"build",
"this",
"model",
"here",
"compile",
"it",
"and",
"actually",
"we",
"could",
"go",
"into",
"the",
"go",
"into",
"a",
"project",
"we'd",
"call",
"this",
"one",
"perceptron",
"we're",
"gonna",
"call",
"this",
"guy",
"one",
"convolution",
"call",
"this",
"guy",
"two",
"convolutions",
"you",
"so",
"you",
"can",
"see",
"here",
"that",
"our",
"two",
"convolution",
"model",
"is",
"actually",
"slightly",
"better",
"than",
"our",
"one",
"convolution",
"model",
"which",
"is",
"awesome",
"it's",
"like",
"you",
"know",
"maybe",
"a",
"94%",
"accuracy",
"versus",
"a",
"93%",
"accuracy",
"but",
"you",
"know",
"another",
"thing",
"is",
"pretty",
"glaring",
"which",
"is",
"that",
"this",
"is",
"the",
"test",
"accuracy",
"and",
"on",
"the",
"training",
"data",
"both",
"the",
"one",
"convolution",
"and",
"the",
"two",
"convolution",
"model",
"have",
"100%",
"accuracy",
"right",
"so",
"you",
"know",
"it",
"seems",
"like",
"we",
"have",
"an",
"issue",
"with",
"overfitting",
"and",
"again",
"we",
"can",
"apply",
"all",
"the",
"intuitions",
"that",
"we",
"learned",
"on",
"text",
"and",
"image",
"data",
"to",
"this",
"problem",
"right",
"and",
"so",
"the",
"the",
"clear",
"thing",
"to",
"do",
"when",
"you",
"see",
"this",
"the",
"first",
"thing",
"to",
"try",
"is",
"to",
"add",
"some",
"dropout",
"so",
"let's",
"put",
"a",
"little",
"bit",
"of",
"dropout",
"in",
"our",
"model",
"if",
"you",
"put",
"it",
"in",
"the",
"same",
"place",
"that",
"we",
"did",
"before",
"so",
"we",
"can",
"see",
"model",
"add",
"dropout",
"maybe",
"dropout",
"1/4",
"the",
"stuff",
"and",
"drop",
"it",
"across",
"the",
"stuff",
"again",
"compile",
"the",
"model",
"and",
"run",
"fit",
"and",
"you",
"see",
"that",
"the",
"two",
"convolutions",
"just",
"drop",
"out",
"is",
"actually",
"learning",
"slower",
"on",
"the",
"training",
"data",
"but",
"it",
"actually",
"kind",
"of",
"continues",
"to",
"improve",
"and",
"the",
"same",
"thing",
"happens",
"on",
"the",
"test",
"data",
"right",
"so",
"it",
"starts",
"off",
"a",
"little",
"bit",
"worse",
"but",
"as",
"it",
"runs",
"over",
"time",
"it",
"gets",
"better",
"and",
"better",
"and",
"better",
"right",
"so",
"this",
"dropout",
"actually",
"allows",
"the",
"model",
"to",
"fit",
"the",
"data",
"even",
"a",
"little",
"bit",
"better",
"than",
"without",
"the",
"dropouts",
"so",
"all",
"the",
"things",
"that",
"we",
"expect",
"all",
"the",
"theory",
"and",
"intuitions",
"that",
"we've",
"learned",
"so",
"far",
"they",
"apply",
"it",
"to",
"audio",
"equally",
"as",
"well",
"as",
"images",
"or",
"that",
"",
"I",
"just",
"think",
"it's",
"super",
"cool",
"maybe",
"let",
"that",
"run",
"a",
"little",
"bit",
"then",
"there's",
"one",
"more",
"thing",
"that",
"you",
"can",
"try",
"which",
"we",
"did",
"on",
"text",
"which",
"is",
"we",
"could",
"take",
"L",
"STM's",
"or",
"gr",
"use",
"and",
"apply",
"it",
"to",
"audio",
"right",
"and",
"this",
"might",
"make",
"sense",
"especially",
"if",
"we",
"had",
"variable",
"length",
"audio",
"files",
"are",
"much",
"longer",
"audio",
"files",
"this",
"might",
"make",
"sense",
"I",
"think",
"actually",
"CN",
"NS",
"probably",
"make",
"a",
"little",
"more",
"sense",
"for",
"these",
"tiny",
"files",
"where",
"they",
"run",
"well",
"but",
"let's",
"take",
"a",
"peek",
"and",
"see",
"how",
"they",
"do",
"so",
"we",
"can",
"copy",
"the",
"code",
"from",
"our",
"LS",
"TM",
"video",
"and",
"so",
"when",
"we",
"copy",
"the",
"code",
"and",
"you",
"see",
"that",
"actually",
"we",
"get",
"an",
"error",
"and",
"it's",
"a",
"it's",
"a",
"shaper",
"and",
"it's",
"because",
"LS",
"TM",
"expects",
"a",
"two-dimensional",
"but",
"not",
"a",
"three-dimensional",
"input",
"and",
"so",
"you",
"get",
"the",
"scary",
"error",
"message",
"in",
"this",
"case",
"there",
"remember",
"we",
"actually",
"added",
"the",
"channel",
"variable",
"later",
"so",
"we",
"could",
"do",
"a",
"more",
"complicated",
"reshape",
"but",
"I",
"think",
"the",
"simplest",
"thing",
"to",
"do",
"is",
"just",
"undo",
"the",
"reshaping",
"that",
"we",
"did",
"before",
"and",
"then",
"we",
"can",
"try",
"the",
"lsdm",
"now",
"the",
"illicium",
"performance",
"is",
"significantly",
"worse",
"than",
"the",
"convolutions",
"but",
"that",
"might",
"be",
"because",
"we",
"had",
"a",
"small",
"STM",
"it",
"also",
"could",
"be",
"the",
"fact",
"that",
"our",
"data",
"is",
"actually",
"not",
"very",
"long",
"and",
"I",
"think",
"L",
"STM's",
"would",
"matter",
"more",
"as",
"the",
"data",
"gets",
"much",
"longer",
"so",
"we",
"could",
"spend",
"some",
"time",
"really",
"doing",
"hyper",
"parameter",
"tuning",
"and",
"maybe",
"get",
"this",
"STM",
"to",
"the",
"same",
"accuracy",
"as",
"CN",
"NS",
"but",
"I'll",
"just",
"say",
"for",
"these",
"kind",
"of",
"short",
"audio",
"files",
"I",
"think",
"you",
"know",
"CNN's",
"are",
"gonna",
"be",
"faster",
"train",
"faster",
"and",
"run",
"faster",
"and",
"probably",
"the",
"better",
"choice",
"but",
"if",
"we",
"were",
"classifying",
"really",
"long",
"conversations",
"that's",
"where",
"Alice",
"teams",
"might",
"really",
"shine",
"I",
"guess",
"my",
"biggest",
"point",
"here",
"and",
"we",
"can",
"go",
"deeper",
"in",
"subsequent",
"videos",
"on",
"all",
"types",
"of",
"audio",
"processing",
"but",
"the",
"the",
"big",
"point",
"that",
"I",
"want",
"to",
"make",
"is",
"actually",
"the",
"stuff",
"that",
"you're",
"learning",
"is",
"really",
"transferable",
"across",
"domains",
"I",
"mean",
"domain",
"expertise",
"has",
"a",
"huge",
"role",
"to",
"play",
"here",
"but",
"this",
"stuff",
"with",
"CN",
"NS",
"is",
"surprisingly",
"transferable",
"in",
"many",
"different",
"areas",
"and",
"I",
"think",
"that's",
"just",
"super",
"exciting",
"so",
"we'll",
"do",
"some",
"more",
"videos",
"on",
"audio",
"well",
"sue",
"some",
"more",
"videos",
"on",
"more",
"complicated",
"architectures",
"can't",
"weights",
"do",
"you"
]
| [
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Keras",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"corresponds",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"adam",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"len",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"totally",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"and",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"is",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"input",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"though",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"LSTM",
"",
"",
"LSTMS",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"LSTM",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"LSTM",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"them!"
]
| [
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
4,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
1,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7
]
|
yYqAvlkRwUQ
| [
"in",
"this",
"video",
"we're",
"going",
"to",
"introduce",
"two",
"new",
"things",
"so",
"one",
"of",
"the",
"technique",
"a",
"very",
"awesome",
"general",
"technique",
"called",
"data",
"augmentation",
"and",
"we're",
"also",
"going",
"to",
"introduce",
"a",
"new",
"data",
"set",
"called",
"CFR",
"which",
"is",
"kind",
"of",
"like",
"the",
"next",
"data",
"set",
"that",
"everyone",
"uses",
"after",
"M",
"NIST",
"it's",
"slightly",
"bigger",
"images",
"and",
"it's",
"color",
"images",
"and",
"it's",
"images",
"of",
"kind",
"of",
"everyday",
"objects",
"but",
"these",
"images",
"are",
"still",
"small",
"and",
"it's",
"still",
"a",
"relatively",
"easy",
"classification",
"task",
"in",
"fact",
"these",
"days",
"the",
"best",
"classifiers",
"get",
"up",
"to",
"99",
"percent",
"accuracy",
"which",
"is",
"really",
"amazing",
"it's",
"definitely",
"better",
"accuracy",
"than",
"I",
"could",
"get",
"personally",
"data",
"augmentation",
"generally",
"is",
"the",
"practice",
"of",
"taking",
"your",
"data",
"and",
"modifying",
"it",
"so",
"this",
"has",
"a",
"lot",
"of",
"different",
"advantages",
"one",
"advantage",
"is",
"that",
"it",
"helps",
"the",
"model",
"generalize",
"the",
"data",
"better",
"right",
"so",
"in",
"cases",
"where",
"you",
"don't",
"have",
"enough",
"training",
"data",
"you",
"can",
"sort",
"of",
"get",
"more",
"training",
"data",
"by",
"taking",
"the",
"things",
"you",
"haven't",
"changing",
"",
"a",
"little",
"bit",
"right",
"so",
"you",
"know",
"one",
"things",
"you",
"do",
"might",
"be",
"like",
"rotate",
"your",
"images",
"like",
"maybe",
"like",
"five",
"degrees",
"randomly",
"and",
"you",
"know",
"you",
"know",
"that",
"like",
"a",
"frog",
"rotated",
"five",
"degrees",
"is",
"still",
"a",
"frog",
"or",
"a",
"frog",
"you",
"know",
"flipped",
"across",
"like",
"a",
"horizontal",
"axis",
"I",
"mean",
"a",
"vertical",
"axis",
"is",
"probably",
"still",
"a",
"frog",
"right",
"so",
"we",
"do",
"all",
"these",
"transformations",
"before",
"we",
"send",
"the",
"data",
"through",
"to",
"get",
"classified",
"we",
"probably",
"wouldn't",
"do",
"this",
"on",
"our",
"testing",
"data",
"but",
"on",
"the",
"training",
"data",
"it's",
"totally",
"for",
"a",
"game",
"and",
"the",
"particular",
"transformations",
"you",
"do",
"are",
"really",
"based",
"upon",
"your",
"knowledge",
"of",
"your",
"data",
"set",
"like",
"how",
"much",
"can",
"you",
"really",
"distort",
"an",
"image",
"before",
"it",
"becomes",
"potentially",
"something",
"different",
"it's",
"something",
"to",
"to",
"think",
"about",
"an",
"applied",
"domain",
"knowledge",
"to",
"also",
"different",
"types",
"of",
"images",
"might",
"have",
"different",
"appropriate",
"transformations",
"right",
"so",
"you",
"know",
"a",
"face",
"turned",
"upside",
"down",
"might",
"be",
"really",
"different",
"it",
"might",
"be",
"really",
"you",
"know",
"maybe",
"not",
"a",
"kind",
"of",
"face",
"you",
"want",
"to",
"classify",
"but",
"a",
"satellite",
"image",
"rotate",
"180",
"degrees",
"it's",
"probably",
"still",
"a",
"satellite",
"image",
"of",
"the",
"same",
"thing",
"that",
"you",
"might",
"really",
"see",
"so",
"aerial",
"photography",
"you",
"can",
"do",
"kind",
"of",
"more",
"rotations",
"and",
"more",
"vertical",
"flipping",
"whereas",
"images",
"from",
"an",
"upright",
"camera",
"you",
"probably",
"wouldn't",
"want",
"to",
"do",
"too",
"much",
"rotation",
"around",
"the",
"vertical",
"axis",
"because",
"in",
"the",
"real",
"3d",
"world",
"you",
"know",
"the",
"vertical",
"axis",
"is",
"something",
"that",
"we",
"care",
"about",
"so",
"as",
"usual",
"we",
"start",
"off",
"with",
"a",
"whole",
"bunch",
"of",
"imports",
"especially",
"the",
"Charis",
"library",
"that",
"we",
"use",
"extensively",
"here",
"and",
"if",
"you",
"have",
"any",
"questions",
"about",
"what",
"I'm",
"doing",
"up",
"until",
"the",
"data",
"generation",
"I",
"really",
"recommend",
"going",
"back",
"and",
"reviewing",
"previous",
"videos",
"on",
"convolutional",
"neural",
"networks",
"and",
"maybe",
"even",
"the",
"video",
"on",
"perceptrons",
"and",
"multi-layer",
"perceptrons",
"so",
"first",
"we",
"import",
"carrots",
"and",
"some",
"other",
"useful",
"tools",
"so",
"then",
"we",
"set",
"some",
"configuration",
"parameters",
"and",
"we",
"download",
"the",
"Seafire",
"library",
"there's",
"get",
"two",
"versions",
"of",
"see",
"far",
"there's",
"see",
"far",
"ten",
"which",
"has",
"ten",
"classes",
"and",
"see",
"for",
"a",
"hundred",
"which",
"is",
"a",
"little",
"harder",
"because",
"it",
"has",
"a",
"hundred",
"classes",
"in",
"this",
"case",
"I've",
"actually",
"spelled",
"out",
"the",
"class",
"names",
"for",
"you",
"it's",
"airplane",
"automobile",
"bird",
"cat",
"deer",
"dog",
"frog",
"horse",
"ship",
"and",
"truck",
"very",
"similar",
"to",
"M",
"NIST",
"we",
"set",
"those",
"variables",
"in",
"X",
"train",
"why",
"train",
"X",
"test",
"and",
"Y",
"test",
"so",
"you",
"know",
"X",
"train",
"is",
"the",
"actual",
"pixels",
"of",
"each",
"image",
"that",
"we're",
"dealing",
"with",
"in",
"our",
"training",
"set",
"and",
"y",
"train",
"is",
"the",
"labels",
"and",
"so",
"on",
"as",
"usual",
"I",
"think",
"it's",
"smart",
"to",
"take",
"a",
"look",
"at",
"a",
"few",
"of",
"the",
"images",
"and",
"get",
"a",
"feel",
"for",
"the",
"data",
"that",
"we're",
"working",
"with",
"before",
"we",
"start",
"to",
"try",
"to",
"classify",
"it",
"so",
"here",
"I've",
"plotted",
"X",
"train",
"1",
"which",
"is",
"probably",
"the",
"second",
"image",
"in",
"our",
"X",
"train",
"set",
"and",
"you",
"can",
"see",
"that",
"it's",
"probably",
"a",
"truck",
"but",
"even",
"it's",
"kind",
"of",
"hard",
"to",
"tell",
"it's",
"at",
"such",
"low",
"resolution",
"that",
"this",
"task",
"is",
"fairly",
"hard",
"even",
"for",
"a",
"human",
"we",
"can",
"look",
"at",
"say",
"X",
"3",
"and",
"10",
"and",
"see",
"that",
"I",
"think",
"that's",
"a",
"deer",
"but",
"it's",
"it's",
"quite",
"dim",
"some",
"of",
"these",
"images",
"actually",
"are",
"our",
"tricky",
"next",
"we",
"one-hot",
"encode",
"our",
"output",
"labels",
"and",
"we",
"normalize",
"our",
"images",
"so",
"instead",
"of",
"they",
"come",
"by",
"default",
"with",
"their",
"RGB",
"values",
"between",
"0",
"and",
"255",
"and",
"we",
"want",
"to",
"change",
"that",
"to",
"be",
"between",
"0",
"&",
"1",
"so",
"we",
"do",
"that",
"and",
"then",
"we",
"set",
"up",
"a",
"kind",
"of",
"standard",
"small",
"convolutional",
"network",
"in",
"Karis",
"so",
"it's",
"a",
"sequential",
"model",
"and",
"we",
"use",
"a",
"2d",
"convolution",
"with",
"a",
"3x3",
"convolution",
"and",
"we",
"use",
"the",
"padding",
"to",
"kind",
"of",
"keep",
"the",
"size",
"the",
"same",
"so",
"we",
"Pat",
"out",
"a",
"little",
"bit",
"to",
"make",
"sure",
"the",
"convolution",
"doesn't",
"change",
"the",
"dimension",
"and",
"then",
"we",
"use",
"the",
"relu",
"activation",
"function",
"we",
"do",
"the",
"standard",
"max",
"pooling",
"flatten",
"things",
"out",
"and",
"then",
"have",
"to",
"dense",
"layers",
"and",
"we've",
"inserted",
"two",
"dropout",
"leaders",
"to",
"help",
"with",
"overfitting",
"and",
"this",
"is",
"exactly",
"networks",
"that",
"we",
"looked",
"at",
"in",
"the",
"earlier",
"convolution",
"section",
"on",
"they",
"we",
"did",
"an",
"EM",
"NIST",
"the",
"only",
"difference",
"here",
"actually",
"is",
"that",
"our",
"input",
"data",
"is",
"three",
"dimensional",
"instead",
"of",
"two",
"dimensional",
"because",
"our",
"input",
"images",
"are",
"actually",
"colored",
"images",
"so",
"color",
"here",
"is",
"the",
"third",
"dimension",
"whereas",
"M",
"missed",
"their",
"black",
"and",
"white",
"images",
"so",
"it's",
"a",
"two",
"dimensional",
"input",
"data",
"next",
"we",
"compile",
"the",
"model",
"with",
"the",
"usual",
"categorical",
"cross",
"entropy",
"because",
"we're",
"doing",
"a",
"multi-class",
"classification",
"and",
"the",
"atom",
"optimizer",
"and",
"then",
"before",
"we",
"start",
"getting",
"crazy",
"with",
"the",
"data",
"augmentation",
"let's",
"just",
"fit",
"this",
"model",
"on",
"the",
"basic",
"data",
"and",
"we",
"can",
"run",
"this",
"and",
"you'll",
"see",
"that",
"it",
"gets",
"reasonably",
"good",
"accuracy",
"you",
"can",
"see",
"think",
"it's",
"reasonably",
"good",
"accuracy",
"the",
"validation",
"accuracy",
"here",
"is",
"actually",
"higher",
"generally",
"than",
"the",
"accuracy",
"because",
"we",
"have",
"dropout",
"but",
"it",
"looks",
"like",
"the",
"validation",
"accuracy",
"tops",
"out",
"at",
"around",
"60",
"to",
"63",
"percent",
"which",
"is",
"reasonably",
"respectable",
"but",
"we",
"only",
"have",
"50,000",
"training",
"examples",
"so",
"it",
"does",
"seem",
"like",
"this",
"could",
"benefit",
"potentially",
"from",
"augmenting",
"the",
"data",
"so",
"let's",
"do",
"that",
"and",
"caris",
"actually",
"makes",
"it",
"quite",
"easy",
"to",
"do",
"data",
"augmentation",
"and",
"we",
"do",
"this",
"by",
"setting",
"up",
"an",
"image",
"data",
"generator",
"now",
"there's",
"two",
"reasons",
"to",
"use",
"data",
"generators",
"in",
"general",
"so",
"what",
"this",
"does",
"is",
"instead",
"of",
"setting",
"a",
"variable",
"with",
"all",
"the",
"data",
"it",
"has",
"a",
"function",
"that",
"will",
"return",
"batches",
"of",
"training",
"data",
"examples",
"so",
"one",
"reason",
"to",
"use",
"it",
"and",
"the",
"reason",
"we're",
"using",
"it",
"here",
"is",
"because",
"it",
"lets",
"us",
"do",
"modifications",
"to",
"the",
"data",
"as",
"we",
"pass",
"it",
"through",
"so",
"this",
"data",
"generator",
"is",
"actually",
"going",
"to",
"take",
"the",
"images",
"and",
"it's",
"going",
"to",
"stretch",
"them",
"and",
"squeeze",
"them",
"and",
"rotate",
"them",
"and",
"that",
"all",
"these",
"things",
"it",
"can",
"do",
"because",
"it's",
"doing",
"a",
"generator",
"each",
"time",
"it'll",
"be",
"a",
"little",
"bit",
"different",
"the",
"other",
"thing",
"that",
"a",
"generator",
"can",
"do",
"is",
"actually",
"just",
"prevent",
"you",
"from",
"having",
"to",
"put",
"all",
"your",
"images",
"in",
"memory",
"and",
"I'll",
"tell",
"you",
"when",
"you",
"work",
"on",
"real-world",
"data",
"sets",
"that",
"becomes",
"a",
"big",
"issue",
"so",
"in",
"most",
"production",
"systems",
"you",
"probably",
"be",
"using",
"a",
"data",
"generator",
"versus",
"just",
"passing",
"in",
"gigantic",
"variables",
"into",
"your",
"fit",
"function",
"",
"generators",
"good",
"to",
"learn",
"anyway",
"but",
"great",
"for",
"this",
"example",
"and",
"here",
"I've",
"set",
"with",
"shift",
"range",
"2.1",
"which",
"means",
"that",
"it's",
"going",
"to",
"shift",
"the",
"width",
"of",
"the",
"image",
"by",
"up",
"to",
"10%",
"so",
"it's",
"gonna",
"expand",
"and",
"squeeze",
"the",
"image",
"on",
"by",
"up",
"to",
"10%",
"but",
"it's",
"cool",
"to",
"actually",
"look",
"at",
"the",
"carrots",
"acquisition",
"and",
"see",
"if",
"there's",
"any",
"other",
"things",
"that",
"we",
"might",
"want",
"to",
"try",
"like",
"for",
"example",
"we",
"might",
"want",
"to",
"do",
"a",
"little",
"bit",
"of",
"rotation",
"on",
"the",
"image",
"or",
"another",
"thing",
"that",
"we",
"could",
"do",
"is",
"horizontal",
"flip",
"does",
"that",
"mean",
"that",
"half",
"the",
"time",
"we",
"actually",
"classify",
"the",
"mirror",
"image",
"i'm",
"the",
"image",
"of",
"the",
"image",
"so",
"why",
"don't",
"we",
"why",
"don't",
"we",
"also",
"add",
"that",
"and",
"now",
"we",
"call",
"data",
"and",
"dot",
"fit",
"on",
"X",
"train",
"and",
"actually",
"what",
"this",
"does",
"is",
"it",
"attaches",
"the",
"data",
"generator",
"to",
"the",
"X",
"train",
"variable",
"so",
"at",
"each",
"step",
"it's",
"going",
"to",
"pull",
"a",
"batch",
"size",
"worth",
"of",
"images",
"from",
"X",
"train",
"but",
"it's",
"going",
"to",
"modify",
"those",
"images",
"with",
"the",
"functions",
"that",
"we",
"added",
"so",
"you",
"know",
"once",
"you",
"set",
"up",
"the",
"data",
"gen",
"then",
"we",
"call",
"fit",
"generator",
"this",
"is",
"a",
"lot",
"like",
"model",
"that",
"fit",
"but",
"instead",
"of",
"passing",
"in",
"complete",
"arrays",
"you",
"actually",
"pass",
"in",
"a",
"function",
"that",
"returns",
"these",
"arrays",
"in",
"batches",
"right",
"so",
"our",
"data",
"gen",
"here",
"is",
"passing",
"through",
"X",
"train",
"and",
"y",
"train",
"in",
"chunks",
"of",
"size",
"batch",
"size",
"so",
"we",
"actually",
"need",
"to",
"set",
"batch",
"size",
"equals",
"config",
"that",
"batch",
"size",
"in",
"here",
"and",
"then",
"I",
"like",
"to",
"set",
"the",
"the",
"steps",
"per",
"epoch",
"because",
"otherwise",
"you",
"won't",
"actually",
"really",
"have",
"epochs",
"right",
"because",
"you",
"know",
"an",
"epoch",
"is",
"typically",
"when",
"you've",
"stepped",
"through",
"all",
"the",
"data",
"but",
"when",
"you",
"have",
"a",
"generator",
"you're",
"essentially",
"generating",
"infinite",
"amounts",
"of",
"data",
"right",
"so",
"there",
"aren't",
"really",
"epochs",
"but",
"it's",
"nice",
"to",
"have",
"sort",
"of",
"natural",
"breakpoints",
"where",
"you",
"check",
"the",
"validation",
"data",
"and",
"so",
"I",
"set",
"steps",
"for",
"epoch",
"typically",
"equal",
"to",
"B",
"the",
"size",
"of",
"the",
"data",
"and",
"that's",
"extra",
"InTouch",
"shape",
"0",
"divided",
"by",
"config",
"dot",
"batch",
"size",
"so",
"this",
"means",
"that",
"we're",
"basically",
"and",
"have",
"the",
"same",
"number",
"of",
"steps",
"for",
"epoch",
"as",
"we",
"would",
"have",
"had",
"if",
"we",
"had",
"just",
"called",
"model",
"dot",
"fit",
"and",
"so",
"we",
"can",
"set",
"epochs",
"and",
"validation",
"data",
"and",
"callbacks",
"in",
"exactly",
"the",
"same",
"way",
"that",
"we",
"would",
"have",
"otherwise",
"and",
"so",
"it's",
"interesting",
"to",
"think",
"before",
"this",
"runs",
"what",
"this",
"is",
"going",
"to",
"do",
"to",
"accuracy",
"and",
"validation",
"accuracy",
"tip",
"Clee",
"what",
"we'll",
"see",
"is",
"it'll",
"make",
"the",
"accuracy",
"lower",
"because",
"we've",
"actually",
"made",
"the",
"classification",
"tasks",
"harder",
"right",
"we've",
"sort",
"of",
"added",
"some",
"random",
"noise",
"into",
"that",
"task",
"but",
"hopefully",
"in",
"order",
"to",
"complete",
"that",
"task",
"it's",
"gonna",
"actually",
"make",
"the",
"model",
"generalize",
"better",
"and",
"maybe",
"if",
"we're",
"lucky",
"it'll",
"make",
"the",
"validation",
"accuracy",
"higher",
"than",
"it",
"would",
"have",
"otherwise",
"if",
"you",
"compare",
"the",
"the",
"validation",
"accuracy",
"of",
"our",
"CNN",
"with",
"augmentation",
"it's",
"actually",
"better",
"than",
"our",
"vanilla",
"CNN",
"and",
"it's",
"steadily",
"improving",
"over",
"time",
"so",
"we",
"can",
"add",
"all",
"kinds",
"of",
"things",
"and",
"this",
"is",
"a",
"rich",
"vein",
"of",
"things",
"to",
"try",
"to",
"make",
"your",
"model",
"better",
"but",
"we",
"can",
"go",
"back",
"in",
"and",
"add",
"all",
"kinds",
"of",
"transformations",
"to",
"keep",
"improving",
"the",
"generalization",
"of",
"our",
"model",
"in",
"this",
"data",
"set",
"so",
"you're",
"just",
"backing",
"up",
"in",
"general",
"this",
"kind",
"of",
"augmentation",
"is",
"different",
"in",
"every",
"domain",
"in",
"text",
"one",
"thing",
"people",
"do",
"is",
"will",
"actually",
"translate",
"their",
"text",
"into",
"a",
"different",
"language",
"using",
"Google",
"Translate",
"and",
"then",
"translate",
"it",
"back",
"into",
"the",
"original",
"language",
"which",
"kind",
"of",
"adds",
"like",
"a",
"little",
"bit",
"of",
"noise",
"but",
"often",
"keeps",
"the",
"same",
"semantics",
"and",
"an",
"audio",
"people",
"add",
"you",
"know",
"kind",
"of",
"background",
"sound",
"effects",
"or",
"distort",
"the",
"audio",
"just",
"a",
"little",
"bit",
"to",
"you",
"know",
"kind",
"of",
"get",
"variations",
"on",
"the",
"audio",
"so",
"this",
"is",
"a",
"really",
"general",
"technique",
"it",
"works",
"really",
"effectively",
"and",
"I",
"hope",
"you",
"enjoyed",
"this",
"video"
]
| [
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"is",
"a",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"CIFAR",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"personally.",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"rotated",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Keras",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Keras",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"CIFAR",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Karas",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Pad",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"two",
"",
"",
"",
"",
"",
"",
"",
"layers",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"with",
"MNIST",
"they're",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"adam",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Keras",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"width",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Keras",
"documentation",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"dot",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"x_train",
"dot",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"in",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
""
]
| [
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
4,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
7,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0
]
|
ZBVwnoVIvZk
| [
"all",
"right",
"so",
"you",
"know",
"you've",
"got",
"your",
"model",
"training",
"and",
"you",
"want",
"to",
"make",
"it",
"a",
"little",
"bit",
"better",
"so",
"this",
"video",
"is",
"kind",
"of",
"like",
"a",
"sequel",
"to",
"the",
"video",
"on",
"convolutional",
"neural",
"networks",
"and",
"I",
"want",
"to",
"talk",
"about",
"learning",
"rate",
"and",
"batch",
"size",
"and",
"a",
"couple",
"ways",
"that",
"you",
"can",
"often",
"make",
"your",
"models",
"better",
"now",
"unlike",
"a",
"lot",
"of",
"other",
"courses",
"on",
"deep",
"learning",
"I",
"don't",
"really",
"start",
"with",
"learning",
"rate",
"and",
"batch",
"size",
"and",
"things",
"like",
"that",
"because",
"I",
"do",
"think",
"beginners",
"tend",
"to",
"spend",
"way",
"too",
"much",
"time",
"kind",
"of",
"optimizing",
"and",
"tweaking",
"these",
"parameters",
"where",
"they",
"don't",
"really",
"matter",
"that",
"much",
"but",
"they",
"can",
"matter",
"and",
"they",
"can",
"be",
"really",
"effective",
"for",
"making",
"your",
"models",
"train",
"faster",
"or",
"kind",
"of",
"getting",
"the",
"last",
"piece",
"of",
"performance",
"on",
"your",
"model",
"so",
"just",
"as",
"a",
"quick",
"refresher",
"the",
"learning",
"rate",
"is",
"kind",
"of",
"like",
"the",
"size",
"of",
"the",
"step",
"that",
"the",
"model",
"makes",
"as",
"its",
"looking",
"for",
"the",
"best",
"possible",
"weights",
"so",
"you",
"know",
"really",
"low",
"learning",
"rate",
"will",
"mean",
"that",
"your",
"model",
"might",
"take",
"a",
"really",
"long",
"time",
"to",
"find",
"the",
"best",
"set",
"of",
"parameters",
"and",
"a",
"really",
"high",
"learning",
"rate",
"might",
"mean",
"it's",
"kind",
"of",
"jumping",
"over",
"the",
"best",
"possible",
"place",
"or",
"even",
"sort",
"of",
"jumping",
"into",
"regions",
"where",
"you",
"get",
"numerical",
"instability",
"batch",
"size",
"you",
"might",
"remember",
"is",
"the",
"number",
"of",
"examples",
"that",
"a",
"model",
"looks",
"at",
"when",
"it",
"decides",
"which",
"direction",
"to",
"send",
"all",
"the",
"weights",
"so",
"you",
"know",
"a",
"really",
"small",
"batch",
"size",
"means",
"that",
"each",
"step",
"your",
"models",
"optimizing",
"only",
"say",
"over",
"one",
"example",
"or",
"two",
"examples",
"it",
"could",
"add",
"a",
"lot",
"of",
"noise",
"to",
"your",
"model",
"now",
"a",
"really",
"big",
"batch",
"size",
"sometimes",
"it",
"doesn't",
"have",
"enough",
"noise",
"and",
"it's",
"hard",
"for",
"the",
"model",
"to",
"actually",
"find",
"the",
"best",
"place",
"so",
"on",
"one",
"hand",
"smaller",
"batch",
"sizes",
"actually",
"can",
"ironically",
"help",
"your",
"model",
"train",
"better",
"by",
"adding",
"a",
"little",
"bit",
"of",
"noise",
"into",
"that",
"search",
"but",
"maybe",
"a",
"bigger",
"effect",
"or",
"another",
"important",
"effect",
"is",
"that",
"a",
"bigger",
"batch",
"size",
"can",
"help",
"your",
"model",
"train",
"faster",
"especially",
"on",
"GPUs",
"because",
"on",
"a",
"GPU",
"you",
"can",
"actually",
"compute",
"the",
"derivative",
"on",
"all",
"the",
"batches",
"all",
"at",
"once",
"so",
"sometimes",
"as",
"long",
"as",
"you",
"can",
"fit",
"this",
"batch",
"into",
"memory",
"and",
"an",
"associated",
"model",
"into",
"memory",
"a",
"bigger",
"bigger",
"batch",
"size",
"it",
"might",
"not",
"actually",
"slow",
"down",
"your",
"training",
"by",
"much",
"at",
"all",
"in",
"fact",
"that",
"computation",
"might",
"be",
"sort",
"of",
"atomic",
"and",
"the",
"same",
"speed",
"regardless",
"of",
"your",
"batch",
"size",
"now",
"if",
"you",
"say",
"your",
"batch",
"size",
"is",
"too",
"big",
"it",
"just",
"won't",
"fit",
"into",
"memory",
"your",
"thing",
"will",
"crash",
"so",
"at",
"that",
"point",
"you'll",
"know",
"that",
"you",
"need",
"to",
"reduce",
"your",
"batch",
"size",
"but",
"one",
"thing",
"I",
"see",
"with",
"a",
"lot",
"of",
"people",
"starting",
"out",
"is",
"I",
"think",
"they",
"tend",
"to",
"set",
"their",
"bachelor",
"set",
"is",
"too",
"small",
"and",
"waste",
"more",
"time",
"in",
"their",
"training",
"than",
"they",
"really",
"need",
"to",
"so",
"let's",
"jump",
"into",
"the",
"code",
"and",
"run",
"some",
"experiments",
"so",
"I'm",
"going",
"to",
"do",
"these",
"experiments",
"on",
"the",
"CFR",
"data",
"set",
"that",
"we've",
"used",
"in",
"a",
"previous",
"class",
"on",
"data",
"augmentation",
"that",
"you",
"should",
"probably",
"take",
"a",
"look",
"at",
"if",
"you",
"haven't",
"already",
"so",
"we're",
"going",
"to",
"do",
"the",
"standard",
"imports",
"and",
"then",
"we're",
"going",
"to",
"pull",
"in",
"the",
"CFR",
"ten",
"data",
"set",
"you",
"know",
"these",
"things",
"tend",
"to",
"be",
"different",
"on",
"different",
"data",
"sets",
"but",
"I",
"wanted",
"to",
"use",
"this",
"data",
"set",
"that's",
"small",
"enough",
"that",
"we",
"can",
"run",
"a",
"lot",
"of",
"experience",
"quickly",
"but",
"maybe",
"not",
"M",
"NIST",
"where",
"that's",
"actually",
"so",
"small",
"that",
"you",
"might",
"get",
"unusual",
"results",
"so",
"as",
"usual",
"I",
"normalize",
"the",
"data",
"and",
"and",
"convert",
"the",
"labels",
"into",
"one",
"hot",
"encoded",
"versions",
"of",
"themselves",
"and",
"I'm",
"going",
"to",
"start",
"with",
"a",
"very",
"very",
"small",
"i'm",
"convolutional",
"net",
"were",
"probably",
"small",
"as",
"possible",
"convolutional",
"net",
"ruth",
"for",
"just",
"one",
"convolution",
"and",
"one",
"pooling",
"layer",
"so",
"certainly",
"you",
"could",
"make",
"this",
"network",
"bigger",
"and",
"get",
"better",
"performance",
"but",
"I",
"kind",
"of",
"want",
"to",
"see",
"what",
"happens",
"as",
"we",
"modify",
"the",
"learning",
"rate",
"and",
"the",
"batch",
"size",
"first",
"so",
"the",
"first",
"thing",
"I",
"want",
"to",
"show",
"you",
"is",
"what",
"happens",
"if",
"you",
"set",
"the",
"learning",
"rate",
"to",
"something",
"very",
"small",
"so",
"you",
"know",
"by",
"default",
"Adam",
"sets",
"the",
"learning",
"rate",
"to",
"point",
"zero",
"zero",
"one",
"right",
"so",
"let's",
"see",
"what",
"happens",
"if",
"we",
"set",
"it",
"to",
"point",
"zero",
"zero",
"zero",
"one",
"okay",
"so",
"here",
"the",
"blue",
"line",
"is",
"the",
"accuracy",
"of",
"the",
"CNN",
"with",
"the",
"lower",
"learning",
"rate",
"and",
"the",
"orange",
"line",
"is",
"the",
"accuracy",
"of",
"CNN",
"with",
"the",
"default",
"learning",
"rate",
"and",
"so",
"you",
"can",
"see",
"lower",
"learning",
"rate",
"nothing",
"really",
"bad",
"happens",
"but",
"it",
"learns",
"slower",
"and",
"that",
"can",
"be",
"really",
"annoying",
"when",
"you're",
"training",
"lots",
"of",
"models",
"right",
"so",
"when",
"I",
"see",
"this",
"this",
"blue",
"line",
"it's",
"it's",
"consistently",
"below",
"the",
"orange",
"line",
"although",
"I",
"think",
"that'll",
"probably",
"catch",
"up",
"over",
"time",
"okay",
"so",
"suppose",
"you",
"look",
"at",
"this",
"and",
"you",
"say",
"you",
"know",
"what",
"learning",
"rate",
"of",
"point",
"zero",
"zero",
"zero",
"one",
"that",
"doesn't",
"work",
"as",
"well",
"as",
"the",
"default",
"point",
"zero",
"zero",
"one",
"let's",
"you",
"know",
"let's",
"raise",
"it",
"up",
"by",
"a",
"few",
"factors",
"let's",
"make",
"it",
"say",
"point",
"one",
"this",
"would",
"be",
"considered",
"a",
"pretty",
"high",
"learning",
"rate",
"but",
"you",
"know",
"who",
"knows",
"maybe",
"the",
"model",
"will",
"learn",
"faster",
"so",
"here",
"we",
"call",
"model",
"def",
"it",
"and",
"look",
"at",
"that",
"we",
"see",
"an",
"accuracy",
"of",
"about",
"10%",
"and",
"it's",
"not",
"even",
"getting",
"better",
"another",
"real",
"telltale",
"sign",
"is",
"there",
"are",
"losses",
"14",
"now",
"remember",
"our",
"losses",
"kind",
"of",
"in",
"log",
"space",
"really",
"it's",
"like",
"log",
"loss",
"so",
"if",
"you",
"see",
"a",
"loss",
"that's",
"you",
"know",
"above",
"4",
"or",
"5",
"you",
"should",
"think",
"of",
"that",
"as",
"a",
"massively",
"huge",
"loss",
"right",
"I",
"think",
"like",
"what's",
"actually",
"happening",
"here",
"is",
"that",
"the",
"models",
"returning",
"like",
"Nan's",
"and",
"infinities",
"and",
"and",
"just",
"crazy",
"things",
"right",
"and",
"so",
"this",
"model",
"is",
"never",
"gonna",
"get",
"better",
"it",
"just",
"sits",
"at",
"a",
"loss",
"of",
"14",
"and",
"accuracy",
"of",
"10",
"percent",
"and",
"you",
"remember",
"we",
"have",
"10",
"classes",
"so",
"an",
"accuracy",
"of",
"10",
"percent",
"is",
"really",
"the",
"models",
"just",
"guessing",
"right",
"so",
"this",
"is",
"what",
"happens",
"when",
"you",
"said",
"learning",
"rate",
"too",
"high",
"you",
"get",
"in",
"a",
"really",
"really",
"bad",
"place",
"so",
"lower",
"learning",
"rates",
"tend",
"to",
"be",
"safer",
"than",
"higher",
"learning",
"rates",
"what",
"about",
"back",
"size",
"so",
"you",
"know",
"our",
"default",
"batchat",
"is",
"32",
"what",
"happens",
"if",
"we",
"set",
"it",
"to",
"say",
"128",
"right",
"so",
"there's",
"a",
"4x",
"increase",
"in",
"batch",
"size",
"if",
"we",
"call",
"model",
"that",
"fit",
"the",
"first",
"thing",
"you'll",
"notice",
"is",
"that",
"it",
"takes",
"a",
"little",
"bit",
"longer",
"to",
"start",
"because",
"it's",
"loading",
"more",
"into",
"memory",
"but",
"then",
"actually",
"it",
"runs",
"a",
"lot",
"faster",
"and",
"so",
"that's",
"actually",
"pretty",
"nice",
"but",
"you",
"know",
"if",
"it",
"runs",
"faster",
"and",
"we",
"sacrifice",
"accuracy",
"that's",
"not",
"very",
"interesting",
"and",
"remember",
"it's",
"running",
"faster",
"because",
"each",
"step",
"that",
"it's",
"taking",
"is",
"over",
"bigger",
"chunk",
"so",
"it's",
"looking",
"at",
"the",
"same",
"number",
"of",
"training",
"examples",
"but",
"it's",
"doing",
"it",
"in",
"larger",
"chunks",
"you",
"all",
"right",
"cool",
"so",
"so",
"here",
"I",
"mean",
"this",
"is",
"a",
"reason",
"that",
"people",
"often",
"use",
"don't",
"use",
"larger",
"batch",
"sizes",
"the",
"CNN",
"with",
"the",
"128",
"batch",
"size",
"is",
"the",
"each",
"step",
"is",
"faster",
"but",
"it's",
"actually",
"performing",
"worse",
"than",
"the",
"CNN",
"with",
"the",
"smaller",
"batch",
"size",
"but",
"there's",
"actually",
"a",
"subtle",
"point",
"there",
"that",
"it's",
"important",
"to",
"know",
"which",
"is",
"that",
"as",
"you",
"increase",
"the",
"batch",
"size",
"you",
"should",
"also",
"include",
"increase",
"the",
"learning",
"rate",
"so",
"if",
"you",
"multiply",
"the",
"batch",
"size",
"by",
"four",
"you",
"should",
"also",
"generally",
"speaking",
"and",
"multiply",
"the",
"learning",
"rate",
"by",
"four",
"so",
"with",
"bigger",
"batches",
"because",
"you're",
"averaging",
"over",
"larger",
"number",
"samples",
"you",
"can",
"get",
"away",
"with",
"higher",
"learning",
"rates",
"than",
"you",
"otherwise",
"could",
"so",
"let's",
"try",
"this",
"128",
"batch",
"size",
"again",
"but",
"with",
"the",
"4x",
"learning",
"rate",
"versus",
"the",
"baseline",
"thirty-two",
"batch",
"size",
"you",
"okay",
"so",
"actually",
"what",
"you",
"see",
"here",
"is",
"that",
"when",
"we",
"Forex",
"the",
"learning",
"rate",
"with",
"the",
"larger",
"batch",
"size",
"now",
"we",
"get",
"the",
"best",
"of",
"both",
"worlds",
"so",
"we",
"have",
"a",
"CNN",
"that's",
"training",
"faster",
"and",
"it's",
"training",
"at",
"about",
"the",
"same",
"level",
"of",
"accuracy",
"and",
"validation",
"accuracy",
"as",
"our",
"baseline",
"CNN",
"so",
"one",
"more",
"fancy",
"thing",
"you",
"can",
"do",
"and",
"especially",
"this",
"is",
"really",
"effective",
"when",
"you",
"train",
"over",
"a",
"large",
"number",
"of",
"epochs",
"is",
"you",
"can",
"reduce",
"the",
"learning",
"rate",
"on",
"plateau",
"so",
"the",
"idea",
"here",
"is",
"that",
"once",
"your",
"model",
"kind",
"of",
"gets",
"stuck",
"and",
"can't",
"find",
"a",
"better",
"optimum",
"it",
"lowers",
"the",
"learning",
"rate",
"so",
"it",
"can",
"kind",
"of",
"fine-tune",
"in",
"the",
"area",
"that",
"it's",
"in",
"right",
"so",
"there's",
"actually",
"this",
"is",
"such",
"a",
"common",
"technique",
"that",
"there's",
"actually",
"a",
"Carus",
"callback",
"that",
"we",
"can",
"just",
"use",
"it",
"will",
"do",
"it",
"for",
"us",
"it",
"has",
"lots",
"of",
"options",
"but",
"you",
"know",
"the",
"defaults",
"as",
"usual",
"are",
"pretty",
"sensible",
"so",
"we",
"just",
"add",
"to",
"our",
"callbacks",
"a",
"callback",
"reduce",
"LR",
"on",
"plateau",
"and",
"now",
"in",
"order",
"to",
"get",
"this",
"effect",
"we",
"actually",
"have",
"to",
"have",
"our",
"learning",
"actually",
"plateaus",
"so",
"let's",
"set",
"the",
"epochs",
"to",
"say",
"300",
"and",
"time-lapses",
"a",
"little",
"bit",
"to",
"not",
"make",
"a",
"really",
"long",
"video",
"okay",
"and",
"so",
"this",
"model",
"has",
"been",
"training",
"for",
"a",
"while",
"and",
"you",
"can",
"see",
"what",
"happened",
"is",
"at",
"about",
"the",
"35th",
"epic",
"it",
"stopped",
"improving",
"and",
"so",
"our",
"reduce",
"learning",
"rate",
"system",
"automatically",
"reduced",
"the",
"learning",
"rate",
"and",
"you",
"can",
"see",
"that",
"the",
"accuracy",
"and",
"the",
"validation",
"accuracy",
"actually",
"popped",
"up",
"quickly",
"and",
"then",
"petered",
"out",
"and",
"with",
"a",
"lot",
"of",
"models",
"you",
"actually",
"see",
"that",
"effect",
"happen",
"a",
"few",
"times",
"each",
"probably",
"like",
"a",
"little",
"bit",
"smaller",
"than",
"the",
"time",
"before",
"but",
"it",
"can",
"really",
"add",
"some",
"accuracy",
"on",
"the",
"end",
"of",
"your",
"model",
"training",
"so",
"you",
"know",
"again",
"I",
"don't",
"think",
"learning",
"rate",
"is",
"always",
"the",
"first",
"thing",
"to",
"mess",
"with",
"unless",
"your",
"model",
"is",
"really",
"not",
"training",
"you're",
"having",
"numerical",
"issues",
"generally",
"the",
"Charis",
"defaults",
"are",
"pretty",
"good",
"and",
"you",
"know",
"most",
"people",
"go",
"through",
"a",
"phase",
"I",
"think",
"where",
"they",
"spend",
"too",
"much",
"time",
"kind",
"of",
"changing",
"the",
"optimizer",
"and",
"you",
"know",
"changing",
"you",
"know",
"momentum",
"and",
"things",
"like",
"that",
"but",
"it",
"definitely",
"does",
"make",
"sense",
"to",
"understand",
"what",
"learning",
"rate",
"and",
"batch",
"size",
"are",
"and",
"spend",
"a",
"little",
"time",
"tweaking",
"them",
"and",
"I",
"think",
"doing",
"this",
"kind",
"of",
"reduced",
"learning",
"rate",
"on",
"plateau",
"system",
"is",
"generally",
"best",
"practice",
"for",
"long",
"running",
"long",
"training",
"models",
"Thanks"
]
| [
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"CIFAR",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"CIFAR",
"10",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"first.",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"batch",
"size?",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"dot",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"4x",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Keras",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"epoch",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"Keras",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
"",
""
]
| [
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
5,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
2,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
5,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
7,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0,
0
]
|
KP5PhuwYahI
| [
"there",
"isn't",
"one",
"definition",
"of",
"fairness",
"right",
"uh",
"if",
"you",
"look",
"at",
"philosophy",
"whether",
"it's",
"like",
"moral",
"or",
"political",
"philosophy",
"or",
"you",
"look",
"at",
"the",
"law",
"or",
"even",
"you",
"look",
"at",
"like",
"the",
"vibrant",
"community",
"in",
"the",
"computer",
"science",
"community",
"and",
"machine",
"learning",
"right",
"who's",
"thinking",
"about",
"algorithmic",
"bias",
"one",
"common",
"pattern",
"is",
"that",
"you",
"have",
"multiple",
"definitions",
"of",
"fairness",
"that",
"are",
"mutually",
"incompatible",
"so",
"you",
"have",
"to",
"pick",
"one",
"you're",
"listening",
"to",
"gradient",
"descent",
"a",
"show",
"where",
"we",
"learn",
"about",
"making",
"machine",
"learning",
"models",
"work",
"in",
"the",
"real",
"world",
"i'm",
"your",
"host",
"lucas",
"bewall",
"joaquin",
"candela",
"is",
"the",
"tech",
"lead",
"for",
"responsible",
"ai",
"at",
"facebook",
"prior",
"to",
"that",
"he",
"built",
"the",
"applied",
"machine",
"learning",
"team",
"which",
"powers",
"all",
"production",
"applications",
"of",
"ai",
"across",
"all",
"of",
"facebook's",
"products",
"before",
"that",
"joaquin",
"taught",
"at",
"university",
"of",
"cambridge",
"and",
"worked",
"at",
"microsoft",
"research",
"today",
"i'm",
"going",
"to",
"talk",
"to",
"him",
"about",
"fairness",
"and",
"algorithmic",
"bias",
"scaling",
"and",
"democratizing",
"ai",
"at",
"facebook",
"you",
"were",
"running",
"the",
"applied",
"machine",
"learning",
"team",
"at",
"facebook",
"right",
"during",
"a",
"time",
"when",
"there",
"was",
"tons",
"of",
"machine",
"learning",
"innovation",
"going",
"on",
"i'd",
"love",
"to",
"hear",
"um",
"what",
"was",
"happening",
"when",
"you",
"started",
"working",
"on",
"that",
"and",
"kind",
"of",
"what",
"tooling",
"was",
"necessary",
"and",
"how",
"that",
"kind",
"of",
"changed",
"over",
"the",
"time",
"that",
"you",
"were",
"working",
"on",
"that",
"i",
"think",
"the",
"context",
"is",
"very",
"important",
"here",
"so",
"i",
"i",
"joined",
"facebook",
"in",
"mid",
"2012.",
"there",
"wasn't",
"a",
"lot",
"of",
"uh",
"ml",
"people",
"in",
"the",
"company",
"and",
"if",
"you",
"think",
"about",
"the",
"two",
"biggest",
"applications",
"it",
"was",
"a",
"news",
"feed",
"ranking",
"on",
"the",
"one",
"hand",
"and",
"then",
"ads",
"ranking",
"right",
"so",
"two",
"two",
"ranking",
"problems",
"so",
"as",
"far",
"as",
"the",
"models",
"uh",
"you",
"know",
"were",
"concerned",
"you",
"mostly",
"had",
"binary",
"classifiers",
"that",
"were",
"used",
"as",
"inputs",
"into",
"a",
"ranking",
"function",
"right",
"so",
"you",
"know",
"if",
"you",
"think",
"about",
"nuclear",
"ranking",
"you",
"would",
"have",
"oh",
"so",
"my",
"my",
"value",
"function",
"is",
"some",
"combination",
"of",
"you",
"know",
"i",
"give",
"every",
"click",
"a",
"certain",
"score",
"i",
"give",
"every",
"comment",
"a",
"score",
"i",
"give",
"every",
"you",
"know",
"share",
"a",
"score",
"etc",
"right",
"and",
"then",
"with",
"that",
"i",
"built",
"myself",
"like",
"a",
"value",
"a",
"value",
"function",
"and",
"so",
"i",
"have",
"all",
"these",
"binary",
"classifiers",
"right",
"that",
"predict",
"the",
"probability",
"that",
"someone",
"will",
"you",
"know",
"click",
"share",
"or",
"comment",
"or",
"whatever",
"before",
"i",
"show",
"them",
"something",
"right",
"and",
"then",
"i",
"can",
"use",
"that",
"",
"sort",
"of",
"like",
"rank",
"content",
"and",
"for",
"that's",
"a",
"similar",
"thing",
"writing",
"ads",
"back",
"in",
"in",
"the",
"prehistorical",
"times",
"click",
"based",
"advertising",
"was",
"like",
"the",
"big",
"big",
"big",
"thing",
"right",
"uh",
"maybe",
"like",
"i",
"don't",
"even",
"remember",
"now",
"like",
"15",
"years",
"ago",
"20",
"years",
"ago",
"whenever",
"and",
"then",
"you",
"know",
"that",
"you",
"had",
"conversions",
"right",
"and",
"then",
"there's",
"like",
"more",
"subtle",
"things",
"where",
"you",
"have",
"like",
"brand",
"and",
"then",
"not",
"all",
"conversions",
"are",
"created",
"equal",
"and",
"then",
"the",
"other",
"thing",
"that",
"happens",
"of",
"course",
"is",
"that",
"the",
"the",
"complexity",
"of",
"the",
"content",
"evolves",
"right",
"like",
"like",
"if",
"you",
"think",
"about",
"when",
"i",
"joined",
"facebook",
"a",
"lot",
"of",
"a",
"lot",
"of",
"the",
"content",
"was",
"mostly",
"text",
"right",
"uh",
"images",
"of",
"course",
"there",
"fewer",
"videos",
"and",
"now",
"that",
"sort",
"of",
"becomes",
"more",
"complex",
"",
"you",
"have",
"more",
"multi-modality",
"so",
"i",
"joined",
"facebook",
"at",
"a",
"time",
"where",
"you",
"know",
"the",
"company",
"was",
"just",
"uh",
"ipoint",
"and",
"revenue",
"was",
"flat",
"and",
"so",
"there",
"was",
"a",
"huge",
"pressure",
"to",
"try",
"and",
"move",
"the",
"needle",
"in",
"",
"ads",
"i",
"joined",
"the",
"ads",
"team",
"and",
"one",
"of",
"the",
"big",
"levers",
"to",
"move",
"to",
"move",
"revenue",
"was",
"like",
"oh",
"can",
"we",
"get",
"better",
"at",
"predicting",
"you",
"know",
"clicks",
"and",
"conversions",
"on",
"ads",
"right",
"at",
"the",
"same",
"time",
"you",
"start",
"to",
"have",
"you",
"know",
"we",
"start",
"to",
"move",
"away",
"from",
"uh",
"only",
"serving",
"ads",
"on",
"web",
"on",
"the",
"right",
"hand",
"column",
"to",
"actually",
"also",
"serving",
"ads",
"you",
"know",
"on",
"on",
"mobile",
"and",
"then",
"actually",
"end",
"of",
"2012",
"when",
"i",
"joined",
"if",
"you",
"look",
"at",
"like",
"where",
"people",
"were",
"accessing",
"facebook",
"from",
"like",
"web",
"was",
"kind",
"of",
"slowly",
"declining",
"or",
"being",
"stable",
"and",
"then",
"mobile",
"was",
"like",
"rocketing",
"i",
"think",
"they",
"crossed",
"sort",
"of",
"at",
"around",
"the",
"end",
"of",
"2012",
"right",
"so",
"you're",
"like",
"the",
"types",
"of",
"surfaces",
"you",
"have",
"the",
"types",
"of",
"things",
"you're",
"predicting",
"starts",
"to",
"increase",
"and",
"so",
"you",
"know",
"the",
"first",
"dilemma",
"that",
"i",
"that",
"i",
"had",
"was",
"like",
"oh",
"i",
"looked",
"at",
"what",
"were",
"we",
"doing",
"right",
"and",
"we",
"were",
"you",
"know",
"we",
"were",
"using",
"um",
"we",
"were",
"using",
"the",
"soyuz",
"in",
"a",
"way",
"you",
"know",
"like",
"like",
"to",
"go",
"to",
"the",
"space",
"station",
"nothing",
"fancy",
"just",
"like",
"the",
"good",
"old",
"so",
"use",
"right",
"uh",
"we",
"were",
"using",
"um",
"uh",
"gradient",
"boosted",
"decision",
"trees",
"as",
"feature",
"transformers",
"uh",
"mostly",
"you",
"could",
"think",
"about",
"it",
"that",
"way",
"and",
"then",
"we",
"were",
"using",
"uh",
"online",
"uh",
"logistic",
"regression",
"you",
"know",
"uh",
"sort",
"of",
"after",
"that",
"like",
"cascaded",
"with",
"it",
"right",
"so",
"what",
"would",
"you",
"sorry",
"to",
"interrupt",
"but",
"what",
"then",
"would",
"you",
"train",
"the",
"intermediate",
"gradient",
"boosted",
"tree",
"on",
"what",
"would",
"be",
"the",
"kind",
"of",
"thing",
"that",
"that",
"would",
"try",
"to",
"predict",
"you'd",
"still",
"train",
"them",
"on",
"on",
"the",
"event",
"on",
"the",
"binary",
"event",
"that",
"you're",
"trying",
"to",
"predict",
"right",
"like",
"like",
"clicks",
"or",
"conversions",
"or",
"or",
"whatever",
"but",
"obviously",
"you",
"you'd",
"benefit",
"from",
"the",
"uh",
"from",
"the",
"robustness",
"that",
"that",
"that",
"gives",
"you",
"right",
"like",
"you",
"don't",
"have",
"to",
"worry",
"too",
"much",
"about",
"like",
"scaling",
"and",
"translation",
"and",
"whatever",
"of",
"your",
"but",
"then",
"you",
"would",
"you",
"would",
"feed",
"them",
"into",
"a",
"simpler",
"model",
"so",
"however",
"yeah",
"what",
"what",
"you",
"would",
"then",
"use",
"is",
"um",
"the",
"trees",
"themselves",
"every",
"tree",
"as",
"a",
"as",
"a",
"categorical",
"feature",
"as",
"it",
"were",
"and",
"and",
"so",
"then",
"your",
"logistic",
"regression",
"model",
"which",
"which",
"would",
"be",
"training",
"online",
"has",
"a",
"bunch",
"of",
"inputs",
"that",
"are",
"categorical",
"which",
"are",
"like",
"the",
"the",
"output",
"such",
"each",
"of",
"the",
"trees",
"right",
"so",
"it's",
"basically",
"like",
"relearning",
"kind",
"of",
"relearning",
"the",
"weights",
"as",
"associated",
"with",
"this",
"leaf",
"oh",
"interesting",
"wow",
"i",
"have",
"not",
"heard",
"of",
"that",
"so",
"the",
"the",
"thing",
"that's",
"changing",
"then",
"is",
"the",
"sort",
"of",
"the",
"combination",
"of",
"the",
"two",
"you",
"train",
"a",
"gradient",
"boosted",
"tree",
"then",
"you",
"pull",
"the",
"trees",
"apart",
"and",
"then",
"you",
"relearn",
"the",
"the",
"weights",
"of",
"each",
"tree",
"yeah",
"and",
"the",
"combination",
"yeah",
"it's",
"it's",
"a",
"it's",
"a",
"hack",
"right",
"like",
"it's",
"not",
"a",
"fully",
"backpropagated",
"model",
"right",
"because",
"because",
"you",
"train",
"your",
"trees",
"every",
"few",
"weeks",
"you",
"know",
"like",
"whenever",
"you",
"know",
"um",
"and",
"then",
"and",
"then",
"you",
"have",
"logistic",
"regression",
"that",
"you",
"know",
"um",
"takes",
"as",
"inputs",
"both",
"you",
"know",
"like",
"the",
"the",
"binary",
"indicators",
"right",
"like",
"every",
"one",
"of",
"the",
"trees",
"you",
"train",
"like",
"hundreds",
"maybe",
"a",
"couple",
"of",
"thousand",
"you",
"know",
"trees",
"so",
"you",
"have",
"like",
"and",
"each",
"other",
"trees",
"has",
"like",
"a",
"dozen",
"leaves",
"or",
"like",
"whatever",
"and",
"so",
"and",
"you",
"treat",
"those",
"as",
"like",
"uh",
"you",
"know",
"one",
"out",
"of",
"12",
"kind",
"of",
"like",
"encoding",
"but",
"then",
"you're",
"learning",
"a",
"weight",
"for",
"each",
"of",
"those",
"and",
"you're",
"kind",
"of",
"like",
"learning",
"that's",
"like",
"in",
"real",
"time",
"and",
"then",
"you",
"have",
"other",
"other",
"uh",
"features",
"that",
"you",
"know",
"that",
"go",
"in",
"side",
"by",
"side",
"that",
"can",
"actually",
"be",
"sort",
"of",
"continuous",
"features",
"as",
"well",
"cool",
"so",
"that's",
"the",
"setup",
"that's",
"what",
"i",
"found",
"when",
"i",
"got",
"there",
"and",
"so",
"the",
"the",
"key",
"decision",
"since",
"you",
"wanted",
"to",
"talk",
"about",
"like",
"building",
"up",
"lighting",
"l",
"and",
"all",
"that",
"was",
"the",
"dilemma",
"was",
"the",
"following",
"it",
"was",
"like",
"okay",
"well",
"this",
"thing",
"is",
"begging",
"you",
"know",
"for",
"a",
"proper",
"neural",
"net",
"right",
"to",
"to",
"to",
"be",
"thrown",
"at",
"it",
"right",
"like",
"it's",
"almost",
"like",
"we've",
"handcrafted",
"a",
"frankenstein",
"you",
"know",
"type",
"of",
"neural",
"net",
"by",
"by",
"having",
"you",
"know",
"like",
"these",
"trees",
"you",
"know",
"with",
"logistic",
"regression",
"concatenated",
"to",
"it",
"but",
"like",
"we're",
"not",
"even",
"like",
"training",
"it",
"together",
"right",
"like",
"we",
"we",
"first",
"train",
"the",
"trees",
"and",
"we",
"kind",
"of",
"chop",
"the",
"output",
"and",
"then",
"we",
"kind",
"of",
"plug",
"this",
"other",
"thing",
"to",
"it",
"and",
"then",
"that's",
"the",
"thing",
"that",
"we",
"train",
"so",
"it",
"was",
"very",
"obvious",
"that",
"doing",
"that",
"you",
"know",
"would",
"probably",
"uh",
"give",
"us",
"uh",
"gains",
"this",
"is",
"a",
"two",
"thing",
"this",
"is",
"actually",
"it's",
"a",
"20",
"2012",
"is",
"obvious",
"that",
"a",
"neural",
"net",
"would",
"would",
"give",
"you",
"an",
"improvement",
"i'm",
"trying",
"to",
"remember",
"sort",
"of",
"was",
"that",
"obvious",
"to",
"everyone",
"no",
"no",
"because",
"if",
"you",
"think",
"about",
"the",
"i",
"think",
"it",
"was",
"a",
"rus",
"ru",
"sala",
"cudinov",
"and",
"jeff",
"hinton",
"and",
"i",
"might",
"be",
"forgetting",
"some",
"co-authors",
"so",
"i",
"deeply",
"apologize",
"because",
"i've",
"had",
"a",
"long",
"day",
"already",
"um",
"apologies",
"but",
"this",
"was",
"like",
"the",
"big",
"image",
"net",
"paper",
"right",
"was",
"with",
"convenience",
"was",
"i",
"think",
"from",
"2012",
"if",
"i'm",
"not",
"mistaken",
"that",
"sounds",
"right",
"yeah",
"yeah",
"so",
"i",
"don't",
"think",
"i",
"don't",
"think",
"it",
"was",
"clear",
"i",
"think",
"this",
"is",
"like",
"the",
"the",
"beginning",
"of",
"the",
"hockey",
"stick",
"you",
"know",
"but",
"i",
"think",
"it",
"wasn't",
"clear",
"if",
"that",
"had",
"been",
"like",
"two",
"years",
"later",
"then",
"it",
"would",
"have",
"been",
"obvious",
"right",
"right",
"right",
"at",
"the",
"time",
"it",
"wasn't",
"clear",
"yet",
"and",
"you",
"know",
"you",
"always",
"need",
"a",
"couple",
"of",
"months",
"you",
"know",
"to",
"realize",
"that",
"something",
"happened",
"so",
"yeah",
"the",
"the",
"thing",
"that",
"i",
"that",
"really",
"struck",
"me",
"was",
"that",
"the",
"the",
"time",
"it",
"took",
"from",
"doing",
"an",
"experiment",
"which",
"a",
"lot",
"of",
"it",
"was",
"really",
"like",
"feature",
"engineering",
"maybe",
"there",
"were",
"some",
"experiments",
"with",
"tuning",
"you",
"know",
"you're",
"learning",
"ratios",
"and",
"turn",
"and",
"tuning",
"like",
"the",
"architecture",
"of",
"your",
"trees",
"and",
"the",
"architecture",
"of",
"your",
"i",
"mean",
"logistic",
"regression",
"though",
"there",
"isn't",
"a",
"lot",
"of",
"architecture",
"to",
"be",
"tuned",
"um",
"with",
"your",
"logistic",
"regression",
"like",
"the",
"the",
"time",
"to",
"go",
"from",
"someone",
"has",
"an",
"idea",
"and",
"starts",
"to",
"do",
"some",
"offline",
"experiments",
"to",
"you",
"actually",
"have",
"a",
"your",
"your",
"new",
"click",
"prediction",
"or",
"conversion",
"prediction",
"model",
"for",
"you",
"know",
"mobile",
"or",
"whatever",
"in",
"production",
"right",
"and",
"actually",
"like",
"materializing",
"those",
"gains",
"would",
"be",
"several",
"weeks",
"it'll",
"be",
"like",
"sometimes",
"six",
"weeks",
"sometimes",
"two",
"months",
"and",
"i",
"thought",
"holy",
"crap",
"that's",
"not",
"that's",
"not",
"great",
"right",
"and",
"so",
"the",
"crossroads",
"in",
"a",
"way",
"you",
"know",
"on",
"the",
"one",
"hand",
"you're",
"like",
"okay",
"this",
"thing",
"i",
"have",
"is",
"is",
"simple",
"but",
"we're",
"still",
"getting",
"a",
"lot",
"of",
"gains",
"by",
"tuning",
"it",
"right",
"and",
"on",
"the",
"other",
"hand",
"i",
"can",
"go",
"and",
"just",
"like",
"replace",
"my",
"soyuz",
"with",
"something",
"like",
"sophisticated",
"right",
"so",
"that",
"was",
"like",
"the",
"that",
"was",
"like",
"the",
"the",
"crossroads",
"um",
"that",
"i",
"so",
"do",
"you",
"do",
"you",
"want",
"to",
"know",
"what",
"i",
"decided",
"to",
"do",
"tell",
"me",
"yes",
"i",
"feel",
"like",
"you're",
"kind",
"of",
"picking",
"on",
"this",
"little",
"use",
"i",
"don't",
"i",
"didn't",
"know",
"that",
"was",
"the",
"metaphor",
"for",
"oh",
"symmetry",
"thing",
"uh",
"it's",
"true",
"that",
"the",
"so",
"use",
"well",
"i",
"mean",
"i",
"think",
"the",
"series",
"is",
"rudimentary",
"in",
"the",
"sense",
"that",
"like",
"the",
"the",
"the",
"computer",
"systems",
"that",
"the",
"soyuz",
"has",
"in",
"it",
"are",
"probably",
"50",
"years",
"old",
"or",
"like",
"i",
"don't",
"know",
"something",
"like",
"that",
"right",
"right",
"but",
"they",
"work",
"right",
"so",
"so",
"the",
"reason",
"i",
"use",
"this",
"to",
"use",
"analogy",
"is",
"more",
"like",
"it",
"gets",
"the",
"job",
"done",
"you",
"know",
"it's",
"like",
"you",
"know",
"it's",
"a",
"gradient",
"boosted",
"decision",
"tree",
"and",
"logistic",
"regression",
"right",
"it's",
"like",
"it's",
"just",
"as",
"an",
"aside",
"one",
"thing",
"that",
"triggers",
"me",
"these",
"days",
"a",
"little",
"bit",
"is",
"i",
"see",
"people",
"you",
"know",
"jump",
"straight",
"you",
"know",
"if",
"they",
"have",
"to",
"solve",
"an",
"nlp",
"task",
"they'll",
"use",
"either",
"some",
"sort",
"of",
"a",
"sequence",
"model",
"they're",
"using",
"lstm",
"they'll",
"use",
"uh",
"what",
"i",
"mean",
"i",
"guess",
"is",
"this",
"a",
"transformer",
"or",
"like",
"whatever",
"and",
"it's",
"like",
"and",
"sometimes",
"you",
"go",
"like",
"did",
"you",
"try",
"like",
"a",
"max",
"ant",
"model",
"did",
"you",
"try",
"like",
"a",
"like",
"a",
"good",
"old",
"you",
"know",
"bag",
"of",
"words",
"with",
"logistic",
"regression",
"and",
"the",
"surprising",
"thing",
"is",
"that",
"i",
"would",
"say",
"between",
"20",
"and",
"50",
"of",
"the",
"time",
"you",
"get",
"the",
"same",
"results",
"and",
"and",
"then",
"you're",
"like",
"did",
"you",
"realize",
"how",
"much",
"cheaper",
"this",
"thing",
"is",
"right",
"in",
"terms",
"of",
"anything",
"you",
"care",
"about",
"right",
"whether",
"it's",
"like",
"training",
"time",
"you",
"know",
"inference",
"time",
"whatever",
"right",
"so",
"yeah",
"so",
"so",
"basically",
"the",
"big",
"bet",
"there",
"was",
"to",
"say",
"well",
"what",
"",
"we",
"need",
"to",
"do",
"here",
"is",
"we",
"need",
"to",
"actually",
"um",
"allow",
"our",
"teams",
"to",
"uh",
"to",
"ship",
"every",
"week",
"and",
"there",
"was",
"like",
"the",
"the",
"big",
"model",
"it",
"was",
"like",
"ship",
"every",
"week",
"do",
"whatever",
"it",
"takes",
"so",
"that",
"every",
"week",
"we",
"can",
"ship",
"new",
"models",
"to",
"production",
"and",
"what",
"that",
"meant",
"was",
"like",
"oh",
"we",
"need",
"to",
"dramatically",
"accelerate",
"um",
"you",
"know",
"that",
"path",
"from",
"i",
"have",
"a",
"new",
"model",
"that",
"i",
"could",
"put",
"in",
"production",
"to",
"like",
"it's",
"in",
"production",
"and",
"that",
"and",
"that",
"kind",
"of",
"like",
"triggered",
"",
"five",
"years",
"of",
"work",
"and",
"so",
"what",
"were",
"the",
"keys",
"i",
"mean",
"tell",
"me",
"the",
"pieces",
"that",
"you",
"needed",
"to",
"build",
"in",
"order",
"to",
"allow",
"that",
"to",
"happen",
"because",
"i'm",
"sure",
"a",
"lot",
"of",
"people",
"listening",
"to",
"this",
"are",
"thinking",
"i'd",
"like",
"to",
"ship",
"a",
"model",
"every",
"week",
"what",
"do",
"you",
"need",
"in",
"order",
"to",
"do",
"that",
"safely",
"it",
"was",
"many",
"things",
"at",
"different",
"at",
"different",
"levels",
"so",
"at",
"a",
"very",
"low",
"level",
"it's",
"about",
"fitting",
"in",
"you",
"know",
"seamlessly",
"in",
"like",
"whatever",
"infrastructure",
"you",
"have",
"for",
"for",
"inference",
"right",
"and",
"adopting",
"some",
"sort",
"of",
"like",
"standards",
"which",
"seems",
"super",
"easy",
"and",
"trivial",
"but",
"even",
"that",
"you",
"shouldn't",
"take",
"for",
"granted",
"the",
"the",
"part",
"that",
"i",
"thought",
"was",
"even",
"more",
"interesting",
"is",
"that",
"i",
"think",
"what",
"was",
"slowing",
"people",
"down",
"was",
"probably",
"two",
"or",
"three",
"things",
"one",
"was",
"it",
"was",
"extremely",
"difficult",
"to",
"share",
"work",
"between",
"people",
"because",
"people",
"would",
"be",
"running",
"experiments",
"in",
"their",
"own",
"dev",
"servers",
"and",
"even",
"like",
"having",
"you",
"know",
"like",
"as",
"we",
"all",
"know",
"like",
"configs",
"aren't",
"or",
"back",
"then",
"weren't",
"sort",
"of",
"easily",
"portable",
"like",
"it",
"would",
"just",
"take",
"you",
"you",
"know",
"i",
"don't",
"know",
"like",
"a",
"couple",
"of",
"hours",
"or",
"like",
"you",
"know",
"whatever",
"you'd",
"have",
"like",
"an",
"energy",
"barrier",
"before",
"i",
"could",
"actually",
"play",
"with",
"what",
"you",
"had",
"done",
"right",
"the",
"second",
"thing",
"which",
"i",
"think",
"is",
"related",
"is",
"that",
"you",
"started",
"to",
"have",
"a",
"lot",
"of",
"teams",
"reinventing",
"the",
"wheel",
"so",
"a",
"lot",
"of",
"the",
"work",
"that",
"was",
"being",
"done",
"was",
"actually",
"duplicate",
"um",
"because",
"as",
"a",
"number",
"of",
"surfaces",
"on",
"which",
"we",
"we",
"showed",
"you",
"know",
"ads",
"sort",
"of",
"kept",
"increasing",
"and",
"the",
"types",
"of",
"modalities",
"kept",
"increasing",
"you",
"kind",
"of",
"had",
"like",
"teams",
"that",
"focused",
"on",
"like",
"one",
"of",
"those",
"voxels",
"in",
"your",
"in",
"your",
"you",
"know",
"tensor",
"of",
"of",
"of",
"of",
"configurations",
"and",
"they",
"wouldn't",
"obviously",
"talk",
"to",
"each",
"other",
"or",
"like",
"the",
"work",
"wouldn't",
"be",
"discoverable",
"right",
"so",
"thing",
"number",
"one",
"was",
"like",
"automate",
"everything",
"you",
"have",
"to",
"automate",
"everything",
"you",
"have",
"to",
"make",
"it",
"ridiculously",
"easy",
"and",
"you",
"have",
"to",
"abstract",
"you",
"know",
"everything",
"from",
"the",
"engineering",
"trying",
"to",
"deploy",
"something",
"right",
"especially",
"because",
"we're",
"growing",
"very",
"fast",
"and",
"you",
"get",
"a",
"lot",
"of",
"people",
"who",
"are",
"joining",
"the",
"company",
"fresh",
"from",
"from",
"from",
"somewhere",
"maybe",
"they",
"are",
"good",
"applied",
"researchers",
"but",
"they're",
"not",
"infra",
"people",
"necessarily",
"so",
"abstracting",
"and",
"automating",
"you",
"know",
"super",
"important",
"the",
"second",
"shareability",
"right",
"like",
"make",
"sure",
"that",
"you",
"abstract",
"and",
"encapsulate",
"things",
"in",
"a",
"way",
"where",
"they're",
"like",
"super",
"easy",
"to",
"share",
"so",
"i",
"can",
"see",
"what",
"input",
"features",
"are",
"working",
"for",
"you",
"you",
"know",
"if",
"you're",
"working",
"on",
"like",
"conversion",
"prediction",
"models",
"for",
"in-game",
"ads",
"or",
"like",
"whatever",
"you",
"know",
"i",
"can",
"super",
"easily",
"see",
"that",
"obviously",
"you",
"have",
"infra",
"work",
"again",
"right",
"like",
"because",
"you",
"know",
"the",
"way",
"we",
"we",
"store",
"and",
"represent",
"data",
"is",
"very",
"heterogeneous",
"so",
"there's",
"like",
"it's",
"a",
"pain",
"in",
"the",
"butt",
"usually",
"to",
"even",
"if",
"you're",
"only",
"looking",
"at",
"like",
"reproducing",
"training",
"you",
"know",
"depending",
"on",
"like",
"what",
"your",
"setup",
"is",
"that's",
"like",
"work",
"but",
"then",
"going",
"you",
"know",
"obviously",
"the",
"way",
"you",
"run",
"your",
"data",
"pipelines",
"when",
"you're",
"training",
"offline",
"versus",
"when",
"you're",
"trying",
"to",
"serve",
"in",
"real",
"time",
"you",
"know",
"is",
"is",
"different",
"almost",
"always",
"and",
"and",
"obviously",
"you",
"know",
"when",
"when",
"you're",
"online",
"you're",
"on",
"a",
"budget",
"so",
"you",
"want",
"to",
"make",
"as",
"few",
"calls",
"as",
"possible",
"when",
"you're",
"serving",
"so",
"you",
"gotta",
"you",
"gotta",
"sort",
"of",
"figure",
"out",
"how",
"to",
"abstract",
"those",
"things",
"and",
"again",
"like",
"hide",
"all",
"complexity",
"and",
"then",
"the",
"third",
"one",
"which",
"i",
"think",
"is",
"really",
"really",
"interesting",
"is",
"really",
"like",
"think",
"about",
"collaboration",
"by",
"design",
"right",
"like",
"how",
"can",
"you",
"build",
"an",
"environment",
"where",
"i",
"go",
"in",
"and",
"i",
"can",
"see",
"every",
"single",
"experiment",
"anyone",
"has",
"run",
"and",
"i",
"can",
"go",
"and",
"by",
"clicking",
"i",
"can",
"see",
"first",
"of",
"all",
"who",
"they",
"are",
"who",
"they",
"are",
"is",
"huge",
"right",
"because",
"then",
"i",
"know",
"who",
"to",
"ask",
"especially",
"if",
"i'm",
"new",
"to",
"the",
"company",
"and",
"you",
"have",
"a",
"company",
"that's",
"growing",
"fast",
"right",
"so",
"the",
"the",
"equivalent",
"of",
"your",
"git",
"blame",
"or",
"or",
"whatever",
"is",
"super",
"important",
"that",
"you",
"need",
"to",
"know",
"who",
"people",
"are",
"the",
"second",
"one",
"again",
"is",
"like",
"so",
"much",
"is",
"um",
"wasted",
"in",
"terms",
"of",
"replicating",
"experiments",
"that",
"someone",
"has",
"already",
"done",
"so",
"like",
"book",
"keeping",
"you",
"know",
"is",
"extremely",
"important",
"and",
"then",
"the",
"ability",
"to",
"just",
"like",
"beg",
"borrow",
"and",
"steal",
"you",
"know",
"bits",
"of",
"pieces",
"either",
"of",
"like",
"feature",
"competitions",
"or",
"like",
"like",
"models",
"you",
"know",
"we",
"were",
"like",
"exposing",
"learning",
"curves",
"and",
"things",
"like",
"that",
"as",
"well",
"so",
"you",
"can",
"actually",
"sort",
"of",
"browse",
"them",
"and",
"and",
"then",
"another",
"component",
"and",
"i'm",
"not",
"being",
"super",
"organized",
"here",
"i",
"think",
"i've",
"said",
"it's",
"three",
"things",
"and",
"i",
"might",
"like",
"the",
"fifth",
"thing",
"already",
"but",
"like",
"another",
"one",
"is",
"like",
"try",
"to",
"be",
"as",
"modular",
"you",
"know",
"as",
"possible",
"right",
"and",
"and",
"if",
"possible",
"as",
"well",
"like",
"language",
"agnostic",
"and",
"separate",
"out",
"you",
"know",
"separate",
"out",
"like",
"the",
"language",
"uh",
"or",
"the",
"you",
"know",
"platform",
"that",
"you're",
"using",
"to",
"kind",
"of",
"specify",
"whatever",
"models",
"you're",
"building",
"from",
"the",
"the",
"definition",
"of",
"a",
"workflow",
"and",
"the",
"execution",
"of",
"our",
"workflow",
"so",
"really",
"really",
"abstracting",
"that",
"away",
"right",
"and",
"sort",
"of",
"thinking",
"about",
"okay",
"an",
"ml",
"workflow",
"is",
"",
"an",
"ml",
"workflow",
"and",
"i",
"don't",
"care",
"you",
"know",
"if",
"you're",
"specifying",
"your",
"models",
"in",
"matlab",
"octave",
"python",
"by",
"torch",
"you",
"know",
"tensorflow",
"like",
"whatever",
"it",
"is",
"that",
"you're",
"doing",
"a",
"lot",
"of",
"the",
"bread",
"and",
"butter",
"that",
"you're",
"doing",
"is",
"kind",
"of",
"common",
"right",
"so",
"really",
"layer",
"it",
"modularize",
"it",
"um",
"was",
"was",
"sort",
"of",
"huge",
"you",
"know",
"it's",
"interesting",
"i",
"feel",
"like",
"the",
"things",
"that",
"you're",
"saying",
"are",
"the",
"things",
"that",
"all",
"ml",
"leaders",
"want",
"that",
"i",
"talk",
"to",
"but",
"i",
"think",
"",
"the",
"place",
"that",
"they",
"get",
"tripped",
"up",
"i",
"mean",
"all",
"the",
"benefits",
"that",
"you're",
"saying",
"totally",
"makes",
"sense",
"but",
"i",
"think",
"the",
"sort",
"of",
"downside",
"is",
"that",
"it",
"requires",
"getting",
"everyone's",
"buy-in",
"into",
"kind",
"of",
"a",
"standard",
"way",
"of",
"doing",
"things",
"and",
"i'm",
"curious",
"how",
"you",
"got",
"that",
"because",
"you",
"know",
"ml",
"practitioners",
"are",
"so",
"hard",
"to",
"hire",
"and",
"they're",
"often",
"opinionated",
"and",
"working",
"different",
"parts",
"of",
"the",
"org",
"how",
"did",
"you",
"get",
"them",
"all",
"to",
"buy",
"into",
"the",
"same",
"of",
"an",
"opinion",
"you",
"often",
"open",
"opinionated",
"you",
"say",
"[Laughter]",
"i",
"would",
"like",
"to",
"meet",
"one",
"that",
"is",
"not",
"opinionated",
"um",
"sometimes",
"not",
"opinionated",
"um",
"yeah",
"it's",
"tricky",
"right",
"and",
"this",
"is",
"actually",
"so",
"you're",
"you're",
"putting",
"the",
"finger",
"on",
"on",
"a",
"on",
"an",
"amazing",
"point",
"which",
"is",
"really",
"uh",
"uh",
"almost",
"like",
"a",
"change",
"management",
"right",
"uh",
"very",
"very",
"hard",
"several",
"reasons",
"why",
"it's",
"hard",
"you",
"know",
"reason",
"number",
"one",
"in",
"any",
"in",
"any",
"fast-moving",
"company",
"where",
"you",
"have",
"low-hanging",
"fruit",
"i",
"mean",
"this",
"is",
"not",
"unique",
"to",
"a",
"male",
"right",
"who's",
"gonna",
"actually",
"pause",
"and",
"do",
"and",
"clean",
"up",
"the",
"kitchen",
"right",
"and",
"and",
"like",
"pay",
"back",
"some",
"tech",
"depth",
"or",
"or",
"like",
"build",
"interest",
"or",
"you",
"move",
"faster",
"it's",
"like",
"you're",
"almost",
"like",
"hey",
"why",
"don't",
"you",
"do",
"it",
"you",
"know",
"like",
"i",
"i",
"don't",
"feel",
"like",
"doing",
"it",
"myself",
"right",
"um",
"so",
"that's",
"like",
"one",
"one",
"uh",
"challenge",
"the",
"other",
"one",
"of",
"course",
"is",
"a",
"is",
"a",
"sense",
"of",
"of",
"pride",
"that",
"people",
"have",
"right",
"i",
"mean",
"and",
"especially",
"you",
"know",
"i",
"used",
"to",
"be",
"in",
"academia",
"and",
"in",
"academia",
"the",
"thing",
"that",
"determines",
"your",
"worth",
"is",
"almost",
"like",
"uh",
"the",
"praise",
"you",
"get",
"for",
"the",
"work",
"that",
"you",
"do",
"but",
"you",
"put",
"your",
"name",
"on",
"your",
"papers",
"right",
"so",
"culturally",
"culturally",
"it's",
"tricky",
"right",
"to",
"sort",
"of",
"say",
"and",
"i'm",
"going",
"to",
"surrender",
"some",
"of",
"that",
"right",
"for",
"the",
"greater",
"good",
"so",
"the",
"the",
"tactic",
"that",
"we",
"took",
"one",
"of",
"them",
"was",
"just",
"to",
"",
"be",
"ridiculously",
"laser",
"focused",
"so",
"look",
"the",
"one",
"thing",
"that",
"i",
"should",
"have",
"clarified",
"is",
"i",
"never",
"dreamt",
"that",
"one",
"day",
"i",
"would",
"build",
"the",
"applied",
"machine",
"learning",
"team",
"at",
"facebook",
"that",
"was",
"not",
"the",
"intent",
"you",
"know",
"like",
"i",
"was",
"in",
"ads",
"we",
"were",
"focusing",
"ads",
"but",
"even",
"within",
"ads",
"we",
"already",
"started",
"to",
"have",
"several",
"teams",
"working",
"on",
"several",
"aspects",
"of",
"the",
"problem",
"so",
"at",
"least",
"i",
"you",
"know",
"we",
"worked",
"on",
"generating",
"alignment",
"and",
"a",
"vision",
"within",
"ads",
"and",
"that",
"was",
"not",
"like",
"a",
"million",
"people",
"you",
"know",
"there",
"was",
"just",
"like",
"a",
"couple",
"of",
"dozen",
"people",
"right",
"and",
"we",
"were",
"i",
"think",
"all",
"feeling",
"the",
"pain",
"and",
"the",
"urgency",
"to",
"move",
"fast",
"so",
"it",
"was",
"you",
"know",
"it",
"was",
"semi-obvious",
"that",
"that",
"this",
"was",
"going",
"to",
"be",
"good",
"it",
"was",
"a",
"bald",
"bet",
"so",
"you",
"need",
"to",
"kind",
"of",
"generate",
"alignment",
"both",
"you",
"know",
"on",
"the",
"people",
"who",
"are",
"deploying",
"things",
"and",
"doing",
"experiments",
"every",
"day",
"but",
"also",
"you",
"say",
"get",
"management",
"you",
"know",
"to",
"give",
"you",
"air",
"cover",
"because",
"things",
"are",
"going",
"to",
"slow",
"down",
"right",
"like",
"i",
"remember",
"talking",
"to",
"my",
"manager",
"at",
"phil's",
"coffee",
"end",
"of",
"2012",
"where",
"like",
"revenue",
"was",
"still",
"you",
"know",
"not",
"picking",
"up",
"and",
"he",
"was",
"asking",
"me",
"hey",
"you",
"haven't",
"been",
"shipping",
"models",
"all",
"that",
"often",
"like",
"what's",
"going",
"on",
"and",
"i'm",
"like",
"oh",
"actually",
"we're",
"going",
"to",
"slow",
"down",
"even",
"more",
"it",
"was",
"like",
"explain",
"and",
"then",
"and",
"then",
"you",
"explain",
"you",
"get",
"into",
"the",
"details",
"you",
"get",
"like",
"buying",
"on",
"the",
"vision",
"at",
"all",
"levels",
"and",
"then",
"but",
"you",
"keep",
"it",
"very",
"very",
"narrow",
"right",
"and",
"then",
"what",
"happened",
"once",
"we",
"started",
"to",
"have",
"progress",
"and",
"stuff",
"started",
"to",
"move",
"faster",
"and",
"like",
"you",
"saw",
"productivity",
"increase",
"then",
"then",
"we",
"started",
"to",
"talk",
"to",
"the",
"feed",
"uh",
"ranking",
"team",
"and",
"then",
"the",
"feed",
"ranking",
"team",
"you",
"know",
"we",
"decided",
"to",
"like",
"join",
"forces",
"for",
"like",
"uh",
"summer",
"2013.",
"and",
"that",
"was",
"really",
"interesting",
"because",
"there",
"again",
"you",
"have",
"to",
"just",
"be",
"laser",
"focused",
"right",
"like",
"um",
"don't",
"don't",
"think",
"about",
"the",
"features",
"first",
"don't",
"think",
"abstract",
"first",
"don't",
"think",
"about",
"like",
"you",
"know",
"it's",
"not",
"like",
"platform",
"first",
"and",
"then",
"we",
"see",
"what",
"happens",
"it's",
"like",
"be",
"extremely",
"concrete",
"like",
"here's",
"here's",
"the",
"types",
"of",
"things",
"i",
"want",
"to",
"make",
"work",
"and",
"also",
"just",
"accept",
"that",
"one",
"day",
"you'll",
"have",
"to",
"rewrite",
"it",
"uh",
"and",
"that",
"they",
"came",
"but",
"for",
"now",
"you",
"know",
"you",
"want",
"to",
"prove",
"the",
"hero",
"scenario",
"right",
"like",
"you",
"want",
"to",
"prove",
"like",
"hey",
"this",
"can",
"actually",
"be",
"amazing",
"right",
"so",
"that",
"was",
"the",
"approach",
"it",
"was",
"like",
"very",
"very",
"extremely",
"laser",
"focused",
"start",
"very",
"small",
"start",
"adding",
"people",
"you",
"know",
"build",
"almost",
"like",
"a",
"like",
"a",
"community",
"that",
"that",
"supports",
"each",
"other",
"really",
"go",
"like",
"you",
"know",
"from",
"from",
"a",
"core",
"and",
"then",
"start",
"expanding",
"it's",
"interesting",
"you",
"know",
"at",
"weights",
"and",
"biases",
"you",
"know",
"we",
"make",
"a",
"tool",
"and",
"i",
"actually",
"didn't",
"really",
"realize",
"how",
"similar",
"our",
"tools",
"vision",
"is",
"to",
"what",
"you",
"were",
"building",
"like",
"our",
"hope",
"is",
"to",
"to",
"really",
"help",
"with",
"collaboration",
"and",
"reproducibility",
"yeah",
"and",
"sort",
"of",
"the",
"same",
"idea",
"of",
"like",
"we",
"really",
"wanted",
"people",
"to",
"be",
"able",
"to",
"find",
"the",
"person",
"that",
"made",
"the",
"thing",
"and",
"not",
"have",
"to",
"you",
"know",
"redo",
"all",
"the",
"work",
"from",
"scratch",
"and",
"i",
"think",
"we",
"have",
"maybe",
"even",
"more",
"trouble",
"than",
"you",
"getting",
"buy-in",
"right",
"because",
"you",
"know",
"no",
"one",
"knows",
"us",
"anything",
"right",
"like",
"you",
"know",
"why",
"would",
"someone",
"want",
"to",
"you",
"know",
"use",
"our",
"tool",
"and",
"i",
"feel",
"like",
"for",
"us",
"a",
"big",
"part",
"of",
"it",
"is",
"like",
"showing",
"little",
"wins",
"to",
"the",
"individual",
"practitioner",
"like",
"i",
"feel",
"like",
"there's",
"little",
"details",
"in",
"our",
"product",
"that",
"we",
"try",
"to",
"you",
"know",
"just",
"like",
"give",
"like",
"a",
"um",
"you",
"know",
"something",
"helpful",
"right",
"out",
"of",
"the",
"gate",
"to",
"um",
"you",
"know",
"someone",
"new",
"coming",
"in",
"before",
"they",
"do",
"the",
"collaboration",
"and",
"and",
"before",
"they",
"have",
"to",
"really",
"buy",
"into",
"our",
"system",
"i",
"wonder",
"if",
"there's",
"anything",
"like",
"that",
"for",
"you",
"or",
"people",
"like",
"oh",
"i",
"want",
"that",
"like",
"i",
"want",
"to",
"be",
"able",
"to",
"see",
"the",
"system",
"metrics",
"of",
"my",
"um",
"runs",
"or",
"something",
"like",
"that",
"that",
"got",
"people",
"to",
"use",
"their",
"stuff",
"yeah",
"no",
"excellent",
"excellent",
"question",
"i'm",
"just",
"mining",
"you",
"selfishly",
"for",
"features",
"for",
"a",
"product",
"really",
"that",
"was",
"that",
"was",
"so",
"shameless",
"yeah",
"so",
"[Laughter]",
"so",
"one",
"one",
"big",
"caveat",
"look",
"at",
"that",
"i",
"have",
"to",
"to",
"say",
"of",
"course",
"is",
"that",
"you",
"know",
"when",
"i",
"was",
"very",
"involved",
"with",
"this",
"stuff",
"in",
"the",
"in",
"the",
"early",
"days",
"um",
"there",
"was",
"like",
"already",
"you",
"know",
"uh",
"like",
"eight",
"uh",
"seven",
"and",
"six",
"years",
"ago",
"so",
"so",
"i",
"know",
"that",
"things",
"have",
"changed",
"a",
"lot",
"like",
"i",
"know",
"that",
"you",
"have",
"like",
"open",
"source",
"tools",
"today",
"which",
"if",
"we",
"had",
"had",
"them",
"we",
"would",
"have",
"just",
"used",
"them",
"directly",
"uh",
"including",
"maybe",
"waste",
"and",
"biases",
"products",
"right",
"so",
"your",
"question",
"is",
"if",
"you",
"set",
"aside",
"like",
"the",
"collaboration",
"benefits",
"and",
"all",
"that",
"like",
"just",
"in",
"terms",
"of",
"pure",
"individual",
"contributor",
"you",
"know",
"productivity",
"why",
"would",
"i",
"care",
"i",
"have",
"both",
"news",
"and",
"i",
"have",
"bad",
"news",
"i",
"guess",
"good",
"news",
"i",
"think",
"i",
"think",
"the",
"the",
"bad",
"news",
"maybe",
"is",
"that",
"some",
"of",
"the",
"problems",
"we",
"solved",
"were",
"actually",
"a",
"bit",
"facebook",
"specific",
"so",
"i",
"think",
"that",
"that's",
"not",
"going",
"to",
"be",
"useful",
"to",
"you",
"but",
"like",
"uh",
"in",
"terms",
"of",
"like",
"um",
"you",
"know",
"abstraction",
"right",
"and",
"like",
"just",
"the",
"ability",
"to",
"almost",
"like",
"at",
"the",
"click",
"of",
"a",
"button",
"like",
"the",
"fact",
"that",
"you",
"could",
"actually",
"clone",
"a",
"workflow",
"i'm",
"going",
"to",
"give",
"you",
"an",
"example",
"here's",
"an",
"example",
"so",
"you're",
"the",
"instagram",
"ml",
"team",
"and",
"instagram's",
"never",
"been",
"ranked",
"before",
"like",
"instagram's",
"feed",
"has",
"been",
"shown",
"like",
"in",
"uh",
"decreasing",
"uh",
"in",
"a",
"chronological",
"order",
"right",
"from",
"most",
"recent",
"to",
"to",
"to",
"less",
"recent",
"and",
"you're",
"tasked",
"with",
"like",
"hey",
"design",
"me",
"a",
"ranking",
"system",
"for",
"instagram",
"right",
"that's",
"kind",
"of",
"like",
"a",
"tall",
"order",
"but",
"imagine",
"now",
"that",
"you",
"have",
"an",
"environment",
"where",
"um",
"you",
"can",
"actually",
"just",
"like",
"look",
"at",
"the",
"production",
"system",
"that",
"ranks",
"news",
"feed",
"there's",
"a",
"lot",
"you",
"can",
"borrow",
"there",
"right",
"and",
"so",
"i",
"think",
"just",
"like",
"just",
"like",
"the",
"ability",
"to",
"borrow",
"um",
"uh",
"you",
"know",
"whether",
"it's",
"like",
"the",
"features",
"that",
"seem",
"to",
"be",
"working",
"the",
"best",
"you",
"know",
"the",
"models",
"the",
"sort",
"of",
"a",
"training",
"schedule",
"the",
"hyper",
"parameters",
"all",
"of",
"that",
"is",
"is",
"like",
"a",
"big",
"thing",
"in",
"parallel",
"to",
"that",
"you",
"have",
"like",
"abstractions",
"right",
"like",
"uh",
"again",
"like",
"at",
"facebook",
"i",
"don't",
"even",
"know",
"how",
"many",
"distinct",
"and",
"mutually",
"incompatible",
"you",
"know",
"uh",
"data",
"stores",
"we",
"have",
"uh",
"but",
"you",
"can",
"imagine",
"right",
"so",
"but",
"and",
"the",
"fact",
"that",
"the",
"tool",
"will",
"actually",
"abstract",
"that",
"for",
"you",
"is",
"is",
"very",
"useful",
"um",
"as",
"well",
"then",
"if",
"you",
"have",
"to",
"build",
"a",
"workflow",
"yourself",
"building",
"workflows",
"is",
"a",
"pain",
"right",
"like",
"if",
"you",
"have",
"to",
"do",
"them",
"from",
"if",
"you",
"don't",
"have",
"a",
"tool",
"to",
"build",
"workflows",
"it's",
"just",
"a",
"pain",
"and",
"then",
"another",
"one",
"tools",
"for",
"debugging",
"you",
"know",
"and",
"automation",
"so",
"i'll",
"give",
"you",
"an",
"example",
"of",
"a",
"couple",
"of",
"things",
"two",
"for",
"automation",
"automatic",
"feature",
"selection",
"the",
"fact",
"that",
"the",
"fact",
"that",
"you",
"have",
"a",
"tool",
"that",
"actually",
"scans",
"for",
"every",
"feature",
"you",
"could",
"possibly",
"use",
"and",
"then",
"while",
"you're",
"sleeping",
"it's",
"just",
"making",
"sure",
"that",
"you",
"have",
"maximum",
"machine",
"utilization",
"uh",
"and",
"you're",
"just",
"like",
"doing",
"whatever",
"feature",
"selection",
"algorithm",
"you",
"want",
"i",
"don't",
"care",
"doesn't",
"matter",
"but",
"it's",
"just",
"doing",
"work",
"for",
"you",
"uh",
"including",
"you",
"doing",
"the",
"plan",
"so",
"true",
"stories",
"is",
"ads",
"engineers",
"would",
"come",
"in",
"the",
"morning",
"on",
"monday",
"and",
"they",
"would",
"see",
"like",
"proposals",
"for",
"new",
"models",
"and",
"you're",
"like",
"oh",
"this",
"looks",
"good",
"like",
"i",
"get",
"a",
"couple",
"of",
"you",
"know",
"0.1",
"whatever",
"percent",
"points",
"of",
"gain",
"in",
"like",
"water",
"metric",
"and",
"that's",
"good",
"the",
"other",
"one",
"is",
"one",
"very",
"simple",
"reason",
"ml",
"systems",
"fail",
"is",
"because",
"some",
"data",
"pipeline",
"uh",
"fails",
"right",
"and",
"and",
"again",
"like",
"if",
"you",
"have",
"to",
"be",
"checking",
"ad",
"hoc",
"it's",
"a",
"pain",
"imagine",
"that",
"you",
"have",
"like",
"this",
"beautiful",
"dashboard",
"you",
"know",
"with",
"colors",
"and",
"whatever",
"that",
"just",
"tell",
"you",
"what",
"features",
"have",
"uh",
"are",
"not",
"working",
"and",
"in",
"which",
"way",
"are",
"they",
"not",
"working",
"anymore",
"uh",
"you",
"know",
"is",
"it",
"that",
"you",
"have",
"like",
"statistical",
"things",
"like",
"they",
"still",
"produce",
"uh",
"valid",
"values",
"but",
"they're",
"like",
"the",
"same",
"all",
"the",
"time",
"or",
"is",
"it",
"that",
"you",
"get",
"like",
"things",
"that",
"are",
"not",
"a",
"number",
"like",
"what",
"what",
"the",
"hell",
"is",
"going",
"on",
"right",
"that's",
"like",
"super",
"useful",
"as",
"well",
"right",
"or",
"like",
"tools",
"to",
"look",
"at",
"your",
"learning",
"curves",
"and",
"whatever",
"so",
"yeah",
"these",
"are",
"like",
"a",
"bunch",
"of",
"examples",
"of",
"things",
"which",
"like",
"you",
"know",
"if",
"you're",
"an",
"email",
"engineer",
"are",
"you",
"you",
"want",
"that",
"stuff",
"totally",
"that",
"that",
"totally",
"makes",
"sense",
"i",
"want",
"to",
"um",
"make",
"sure",
"we",
"we",
"leave",
"plenty",
"of",
"time",
"for",
"um",
"you",
"know",
"the",
"other",
"thread",
"of",
"questions",
"which",
"is",
"you",
"know",
"the",
"new",
"work",
"you're",
"doing",
"is",
"i",
"think",
"it",
"says",
"on",
"on",
"linkedin",
"you're",
"the",
"tech",
"lead",
"for",
"responsible",
"ai",
"um",
"which",
"is",
"uh",
"it",
"sounds",
"like",
"a",
"tall",
"order",
"i",
"mean",
"there's",
"so",
"many",
"possible",
"questions",
"here",
"i",
"was",
"kind",
"of",
"wondering",
"what",
"would",
"be",
"the",
"most",
"interesting",
"but",
"i",
"think",
"the",
"i",
"guess",
"the",
"genuine",
"question",
"that's",
"top",
"of",
"mind",
"for",
"me",
"is",
"always",
"walk",
"me",
"through",
"a",
"real",
"decision",
"like",
"where",
"it",
"wasn't",
"obvious",
"what",
"to",
"do",
"and",
"and",
"by",
"some",
"kind",
"of",
"analysis",
"or",
"thinking",
"about",
"it",
"bring",
"your",
"expertise",
"you",
"were",
"able",
"to",
"kind",
"of",
"guide",
"facebook",
"to",
"to",
"a",
"better",
"decision",
"is",
"that",
"does",
"something",
"come",
"to",
"mind",
"i'm",
"going",
"to",
"start",
"from",
"the",
"india",
"elections",
"this",
"was",
"the",
"biggest",
"election",
"in",
"in",
"human",
"history",
"uh",
"with",
"almost",
"a",
"billion",
"eligible",
"voters",
"so",
"what's",
"the",
"challenge",
"and",
"why",
"and",
"where",
"does",
"ai",
"come",
"in",
"well",
"the",
"challenge",
"is",
"that",
"you",
"know",
"there's",
"a",
"lot",
"of",
"concerns",
"of",
"election",
"interference",
"through",
"the",
"spread",
"of",
"information",
"which",
"is",
"either",
"you",
"know",
"false",
"or",
"misleading",
"or",
"voter",
"suppression",
"or",
"like",
"whatever",
"it",
"might",
"be",
"right",
"and",
"and",
"of",
"course",
"you",
"know",
"the",
"way",
"you",
"address",
"this",
"if",
"you're",
"facebook",
"or",
"a",
"similar",
"company",
"is",
"you",
"create",
"guidelines",
"for",
"like",
"what",
"things",
"you",
"know",
"are",
"acceptable",
"and",
"what",
"not",
"there's",
"of",
"course",
"legal",
"constraints",
"as",
"well",
"and",
"then",
"you",
"just",
"hire",
"a",
"bunch",
"of",
"humans",
"like",
"as",
"many",
"as",
"you",
"can",
"and",
"and",
"you",
"would",
"know",
"about",
"that",
"because",
"you've",
"worked",
"on",
"that",
"in",
"the",
"past",
"right",
"so",
"you",
"have",
"like",
"people",
"humans",
"who",
"are",
"actually",
"processing",
"a",
"queue",
"of",
"",
"work",
"right",
"and",
"that",
"queue",
"of",
"work",
"is",
"like",
"just",
"reviewing",
"posts",
"but",
"when",
"you",
"have",
"a",
"a",
"country",
"the",
"size",
"of",
"india",
"and",
"like",
"the",
"volumes",
"of",
"information",
"or",
"content",
"that",
"are",
"created",
"every",
"day",
"on",
"facebook",
"it's",
"just",
"impossible",
"like",
"you",
"cannot",
"hire",
"enough",
"humans",
"to",
"to",
"review",
"like",
"even",
"you",
"know",
"even",
"a",
"decent",
"fraction",
"of",
"everything",
"so",
"it's",
"impossible",
"right",
"right",
"so",
"the",
"way",
"you",
"use",
"ai",
"is",
"use",
"ai",
"to",
"prioritize",
"human",
"work",
"right",
"and",
"the",
"way",
"you",
"do",
"this",
"is",
"you",
"for",
"example",
"you",
"train",
"you",
"know",
"uh",
"like",
"like",
"a",
"a",
"type",
"of",
"classifiers",
"that",
"we",
"that",
"we",
"have",
"used",
"we",
"call",
"them",
"uh",
"civic",
"classifiers",
"and",
"what",
"they",
"do",
"is",
"they",
"try",
"to",
"tell",
"whether",
"the",
"piece",
"of",
"content",
"is",
"just",
"like",
"a",
"picture",
"of",
"a",
"cat",
"which",
"is",
"like",
"whatever",
"doesn't",
"matter",
"or",
"people",
"like",
"me",
"i'm",
"a",
"runner",
"you",
"know",
"is",
"it",
"like",
"did",
"i",
"post",
"a",
"new",
"run",
"on",
"strava",
"right",
"it's",
"like",
"whatever",
"he",
"doesn't",
"doesn't",
"matter",
"for",
"the",
"elections",
"or",
"or",
"whether",
"it's",
"like",
"actually",
"someone",
"discussing",
"something",
"that's",
"actually",
"relevant",
"right",
"uh",
"social",
"or",
"political",
"or",
"civic",
"issues",
"right",
"and",
"then",
"at",
"least",
"make",
"sure",
"that",
"that",
"type",
"of",
"content",
"gets",
"coverage",
"okay",
"so",
"what's",
"the",
"challenge",
"we're",
"talking",
"about",
"resource",
"allocation",
"we're",
"talking",
"about",
"like",
"you",
"have",
"this",
"set",
"of",
"humans",
"that",
"we're",
"paying",
"to",
"protect",
"the",
"elections",
"from",
"interference",
"and",
"now",
"the",
"question",
"is",
"okay",
"and",
"we're",
"using",
"ai",
"to",
"prioritize",
"our",
"work",
"well",
"what",
"happens",
"if",
"your",
"nlp",
"works",
"only",
"for",
"hindi",
"wait",
"sorry",
"could",
"you",
"even",
"back",
"up",
"a",
"second",
"because",
"it's",
"probably",
"obvious",
"to",
"you",
"but",
"it's",
"not",
"totally",
"obvious",
"to",
"me",
"like",
"what",
"assuming",
"you",
"had",
"like",
"unlimited",
"you",
"know",
"human",
"resources",
"to",
"to",
"do",
"something",
"what",
"is",
"the",
"thing",
"you're",
"trying",
"to",
"do",
"i",
"mean",
"obviously",
"you're",
"not",
"trying",
"to",
"block",
"everything",
"that's",
"on",
"the",
"top",
"of",
"an",
"election",
"so",
"yeah",
"yeah",
"what's",
"what's",
"the",
"goal",
"yeah",
"yeah",
"i",
"should",
"have",
"explained",
"that",
"you",
"will",
"block",
"things",
"if",
"they",
"",
"if",
"they",
"violate",
"you",
"know",
"uh",
"laws",
"right",
"so",
"if",
"you",
"if",
"you",
"have",
"like",
"uh",
"i",
"don't",
"know",
"like",
"defamation",
"of",
"like",
"public",
"figures",
"you",
"know",
"with",
"like",
"like",
"lies",
"or",
"you",
"know",
"just",
"like",
"illegal",
"illegal",
"content",
"or",
"um",
"reduce",
"the",
"the",
"distribution",
"of",
"of",
"things",
"that",
"are",
"harmful",
"so",
"it's",
"it's",
"both",
"like",
"filtering",
"and",
"reduction",
"reducing",
"distribution",
"of",
"of",
"things",
"that",
"violate",
"our",
"our",
"community",
"standards",
"or",
"like",
"law",
"so",
"that's",
"the",
"action",
"that",
"you're",
"that",
"you're",
"taking",
"with",
"the",
"condition",
"of",
"like",
"humans",
"and",
"ai",
"and",
"so",
"the",
"challenge",
"there",
"again",
"is",
"like",
"uh",
"you",
"know",
"you",
"know",
"if",
"you",
"look",
"at",
"this",
"from",
"like",
"a",
"fairness",
"point",
"of",
"view",
"maybe",
"your",
"definition",
"of",
"fairness",
"is",
"that",
"if",
"we're",
"investing",
"a",
"certain",
"amount",
"of",
"human",
"resources",
"to",
"do",
"this",
"job",
"that",
"we",
"want",
"to",
"make",
"sure",
"that",
"everyone",
"in",
"india",
"gets",
"protection",
"from",
"this",
"type",
"of",
"harmful",
"uh",
"content",
"yeah",
"and",
"then",
"the",
"question",
"there",
"becomes",
"like",
"what",
"what",
"does",
"that",
"mean",
"right",
"because",
"if",
"you",
"think",
"about",
"algorithmic",
"fairness",
"and",
"bias",
"you",
"know",
"if",
"you're",
"thinking",
"about",
"like",
"using",
"ai",
"to",
"recommend",
"jobs",
"to",
"people",
"then",
"you",
"get",
"",
"into",
"like",
"and",
"you're",
"in",
"the",
"us",
"you",
"think",
"about",
"like",
"protected",
"categories",
"you",
"think",
"about",
"gender",
"age",
"you",
"know",
"race",
"or",
"ethnicity",
"and",
"stuff",
"like",
"that",
"right",
"where",
"there's",
"like",
"anti-discrimination",
"laws",
"that",
"exist",
"but",
"if",
"you",
"think",
"about",
"this",
"problem",
"in",
"india",
"you're",
"like",
"oh",
"politically",
"what",
"are",
"the",
"hot",
"areas",
"right",
"and",
"then",
"immediately",
"you",
"know",
"when",
"you",
"work",
"with",
"local",
"people",
"you",
"know",
"it's",
"things",
"like",
"caste",
"or",
"religion",
"but",
"obviously",
"we",
"don't",
"have",
"that",
"data",
"and",
"it's",
"not",
"clear",
"that",
"it's",
"not",
"clear",
"that",
"we",
"should",
"right",
"have",
"that",
"data",
"so",
"in",
"the",
"end",
"you",
"do",
"a",
"bunch",
"of",
"work",
"and",
"",
"figure",
"out",
"well",
"what",
"can",
"i",
"do",
"and",
"so",
"we",
"ended",
"up",
"using",
"like",
"language",
"and",
"and",
"region",
"sorry",
"well",
"again",
"if",
"if",
"you",
"had",
"cast",
"and",
"ethnicity",
"i'm",
"sorry",
"i",
"feel",
"like",
"i'm",
"showing",
"my",
"ignorance",
"here",
"but",
"if",
"you",
"had",
"those",
"things",
"what",
"what",
"would",
"you",
"do",
"with",
"that",
"like",
"what",
"what",
"would",
"be",
"the",
"fair",
"thing",
"to",
"do",
"that",
"you're",
"you're",
"trying",
"to",
"do",
"so",
"so",
"the",
"challenge",
"with",
"fairness",
"right",
"and",
"that's",
"where",
"like",
"uh",
"we're",
"gonna",
"go",
"back",
"all",
"the",
"way",
"to",
"music",
"uh",
"somehow",
"is",
"that",
"there",
"isn't",
"one",
"definition",
"of",
"fairness",
"right",
"uh",
"if",
"you",
"look",
"at",
"philosophy",
"whether",
"it's",
"like",
"moral",
"or",
"political",
"philosophy",
"or",
"you",
"look",
"at",
"the",
"law",
"or",
"even",
"you",
"look",
"at",
"like",
"the",
"vibrant",
"community",
"in",
"the",
"computer",
"science",
"community",
"and",
"machine",
"learning",
"right",
"who's",
"thinking",
"about",
"algorithmic",
"bias",
"one",
"common",
"pattern",
"is",
"that",
"you",
"have",
"multiple",
"definitions",
"of",
"fairness",
"that",
"are",
"mutually",
"incompatible",
"so",
"you",
"have",
"to",
"pick",
"one",
"right",
"so",
"in",
"this",
"case",
"the",
"one",
"that",
"you",
"could",
"pick",
"is",
"you",
"could",
"say",
"well",
"i",
"want",
"to",
"make",
"sure",
"that",
"everyone",
"irrespective",
"of",
"their",
"you",
"know",
"caste",
"or",
"or",
"religion",
"is",
"going",
"to",
"see",
"content",
"that",
"has",
"received",
"a",
"comparable",
"amount",
"of",
"protection",
"against",
"uh",
"against",
"harmful",
"or",
"like",
"you",
"know",
"uh",
"content",
"that",
"is",
"basically",
"misleading",
"or",
"you",
"know",
"imagine",
"like",
"it's",
"like",
"voter",
"suppression",
"type",
"of",
"content",
"there",
"right",
"that",
"spreads",
"lies",
"about",
"like",
"i",
"mean",
"there's",
"even",
"stuff",
"like",
"just",
"lying",
"about",
"when",
"the",
"election",
"day",
"is",
"or",
"like",
"whatever",
"you",
"know",
"okay",
"thanks",
"that's",
"helpful",
"yeah",
"yeah",
"then",
"you",
"then",
"you",
"kind",
"of",
"miss",
"it",
"right",
"or",
"or",
"maybe",
"like",
"maybe",
"lying",
"about",
"what",
"what",
"a",
"particular",
"politician",
"stands",
"for",
"right",
"like",
"just",
"sort",
"of",
"putting",
"out",
"something",
"that's",
"completely",
"false",
"or",
"like",
"right",
"right",
"right",
"so",
"you",
"want",
"to",
"yeah",
"go",
"ahead",
"so",
"so",
"i",
"guess",
"one",
"one",
"way",
"just",
"to",
"repeat",
"back",
"where",
"you're",
"saying",
"one",
"way",
"would",
"be",
"like",
"we",
"want",
"to",
"make",
"sure",
"everyone",
"like",
"across",
"groups",
"like",
"cast",
"or",
"religion",
"gets",
"the",
"same",
"level",
"of",
"protection",
"correct",
"by",
"actual",
"humans",
"looking",
"at",
"the",
"content",
"that's",
"exactly",
"right",
"why",
"might",
"that",
"not",
"be",
"like",
"the",
"most",
"fair",
"approach",
"well",
"would",
"there",
"be",
"a",
"different",
"argument",
"for",
"different",
"yeah",
"yeah",
"you",
"have",
"situations",
"where",
"so",
"so",
"here",
"you",
"know",
"uh",
"this",
"would",
"be",
"like",
"an",
"equal",
"treatment",
"type",
"of",
"type",
"of",
"argument",
"where",
"you",
"would",
"say",
"you",
"know",
"we",
"want",
"to",
"treat",
"everybody",
"uh",
"the",
"same",
"and",
"equal",
"treatment",
"is",
"i",
"think",
"in",
"many",
"cultures",
"uh",
"like",
"the",
"sort",
"of",
"like",
"the",
"first",
"instinct",
"that",
"that",
"you",
"have",
"but",
"but",
"you",
"could",
"think",
"about",
"other",
"things",
"right",
"you",
"could",
"think",
"uh",
"on",
"the",
"one",
"hand",
"you",
"could",
"dial",
"things",
"more",
"towards",
"uh",
"equity",
"and",
"in",
"inequity",
"you",
"could",
"look",
"at",
"like",
"historical",
"uh",
"uh",
"you",
"know",
"disadvantages",
"that",
"some",
"group",
"might",
"have",
"had",
"right",
"like",
"is",
"there",
"is",
"there",
"a",
"case",
"where",
"like",
"historically",
"you",
"know",
"some",
"cats",
"and",
"religions",
"are",
"are",
"privileged",
"compared",
"to",
"others",
"and",
"and",
"like",
"the",
"pressure",
"you",
"know",
"or",
"like",
"um",
"the",
"amount",
"of",
"misinformation",
"or",
"like",
"you",
"know",
"if",
"you",
"think",
"about",
"the",
"u.s",
"right",
"like",
"not",
"every",
"group",
"in",
"the",
"u.s",
"has",
"historically",
"had",
"equal",
"access",
"to",
"bubble",
"team",
"right",
"and",
"even",
"today",
"like",
"voter",
"suppression",
"efforts",
"are",
"not",
"um",
"uniformly",
"distributed",
"like",
"some",
"some",
"groups",
"are",
"actually",
"more",
"targeted",
"than",
"others",
"right",
"so",
"you",
"could",
"actually",
"say",
"no",
"i'm",
"actually",
"going",
"to",
"understand",
"you",
"know",
"whether",
"i",
"should",
"prioritize",
"outcomes",
"for",
"for",
"for",
"some",
"groups",
"over",
"others",
"right",
"and",
"and",
"you",
"know",
"if",
"you",
"think",
"about",
"like",
"um",
"you",
"know",
"there's",
"many",
"as",
"many",
"sort",
"of",
"public",
"policies",
"in",
"society",
"that",
"actually",
"sort",
"of",
"aim",
"at",
"you",
"know",
"uh",
"focusing",
"more",
"on",
"on",
"some",
"groups",
"that",
"have",
"been",
"disadvantaged",
"i",
"see",
"and",
"so",
"what",
"did",
"you",
"do",
"so",
"in",
"this",
"case",
"we",
"we",
"went",
"for",
"the",
"equal",
"treatment",
"you",
"know",
"approach",
"and",
"then",
"what",
"we",
"did",
"this",
"triggered",
"a",
"whole",
"amount",
"of",
"work",
"you",
"know",
"we",
"first",
"of",
"all",
"we",
"don't",
"have",
"cast",
"and",
"religion",
"and",
"we",
"there's",
"many",
"reasons",
"there's",
"many",
"risks",
"you",
"know",
"uh",
"why",
"a",
"corporation",
"shouldn't",
"have",
"you",
"know",
"certain",
"type",
"of",
"demographic",
"information",
"uh",
"there's",
"like",
"a",
"lot",
"of",
"examples",
"in",
"history",
"why",
"it's",
"it's",
"just",
"dangerous",
"to",
"have",
"repositories",
"of",
"certain",
"you",
"know",
"demographic",
"characteristics",
"so",
"what",
"we",
"did",
"is",
"we",
"used",
"reasonable",
"alternatives",
"like",
"uh",
"language",
"and",
"region",
"right",
"and",
"so",
"we",
"said",
"okay",
"we're",
"gonna",
"make",
"sure",
"that",
"all",
"religions",
"in",
"india",
"and",
"like",
"not",
"all",
"languages",
"because",
"it's",
"like",
"a",
"huge",
"amount",
"of",
"languages",
"in",
"india",
"but",
"like",
"i",
"think",
"we",
"went",
"for",
"like",
"the",
"top",
"i",
"don't",
"remember",
"anymore",
"top",
"15",
"plus",
"minus",
"you",
"know",
"languages",
"are",
"sort",
"of",
"well",
"protected",
"and",
"then",
"you",
"can",
"get",
"into",
"things",
"okay",
"how",
"do",
"i",
"translate",
"",
"into",
"math",
"and",
"code",
"right",
"so",
"and",
"so",
"you",
"need",
"to",
"look",
"at",
"many",
"levels",
"right",
"like",
"one",
"you",
"need",
"to",
"look",
"uh",
"you",
"know",
"the",
"most",
"basic",
"thing",
"is",
"when",
"you",
"look",
"at",
"the",
"data",
"you",
"look",
"at",
"two",
"things",
"you",
"look",
"at",
"representation",
"and",
"then",
"you",
"look",
"at",
"biases",
"in",
"the",
"labels",
"right",
"so",
"representation",
"make",
"sure",
"that",
"across",
"you",
"know",
"you",
"build",
"yourself",
"your",
"matrix",
"of",
"like",
"you",
"know",
"regions",
"and",
"languages",
"and",
"make",
"sure",
"that",
"for",
"each",
"of",
"these",
"buckets",
"you",
"have",
"a",
"sufficient",
"amount",
"of",
"uh",
"labeled",
"training",
"data",
"and",
"then",
"and",
"then",
"and",
"then",
"once",
"you're",
"in",
"in",
"one",
"of",
"these",
"buckets",
"you",
"kind",
"of",
"you",
"get",
"yourself",
"some",
"uh",
"some",
"some",
"ground",
"truth",
"data",
"and",
"that",
"would",
"be",
"like",
"a",
"very",
"long",
"conversation",
"to",
"figure",
"out",
"what",
"that",
"is",
"but",
"like",
"yeah",
"expensive",
"high",
"quality",
"data",
"that",
"you",
"can",
"use",
"as",
"a",
"reference",
"right",
"and",
"then",
"you",
"kind",
"of",
"measure",
"you",
"know",
"you",
"look",
"at",
"the",
"difference",
"in",
"errors",
"that",
"you",
"have",
"in",
"your",
"labeling",
"process",
"across",
"all",
"these",
"buckets",
"and",
"you",
"want",
"to",
"make",
"sure",
"that",
"you",
"don't",
"have",
"systematic",
"differences",
"but",
"of",
"course",
"that's",
"not",
"enough",
"right",
"then",
"then",
"you",
"actually",
"look",
"at",
"your",
"your",
"models",
"themselves",
"you",
"train",
"your",
"model",
"and",
"you",
"look",
"at",
"things",
"like",
"oh",
"you",
"know",
"in",
"the",
"in",
"the",
"prediction",
"errors",
"do",
"i",
"have",
"you",
"know",
"systematic",
"uh",
"differences",
"and",
"one",
"cool",
"thing",
"to",
"look",
"at",
"if",
"you",
"have",
"binary",
"classifiers",
"uh",
"and",
"you're",
"using",
"you",
"know",
"here",
"you",
"would",
"be",
"using",
"the",
"probability",
"that",
"something",
"is",
"you",
"know",
"civic",
"uh",
"content",
"to",
"prioritize",
"uh",
"review",
"in",
"that",
"context",
"it's",
"very",
"reasonable",
"to",
"use",
"actually",
"a",
"calibration",
"to",
"look",
"at",
"the",
"whole",
"calibration",
"curve",
"you",
"know",
"and",
"make",
"sure",
"that",
"my",
"calibration",
"curve",
"right",
"which",
"which",
"maps",
"scores",
"to",
"actual",
"outcome",
"rates",
"make",
"sure",
"that",
"those",
"curves",
"look",
"similar",
"you",
"know",
"for",
"different",
"groups",
"right",
"that",
"i'm",
"not",
"like",
"over",
"predicting",
"you",
"know",
"for",
"one",
"group",
"and",
"under",
"predicting",
"for",
"another",
"because",
"if",
"i",
"were",
"over",
"predicting",
"for",
"a",
"particular",
"language",
"then",
"i",
"would",
"be",
"allocating",
"more",
"human",
"resources",
"to",
"that",
"language",
"and",
"if",
"i'm",
"under",
"predicting",
"for",
"another",
"i'm",
"allocating",
"fewer",
"resources",
"but",
"it's",
"not",
"justified",
"because",
"you",
"know",
"the",
"it",
"that",
"doesn't",
"reflect",
"you",
"know",
"the",
"actual",
"volume",
"of",
"content",
"that",
"actually",
"needs",
"to",
"be",
"reviewed",
"uh",
"for",
"both",
"but",
"is",
"it",
"i",
"guess",
"is",
"it",
"possible",
"that",
"some",
"language",
"has",
"more",
"um",
"banned",
"content",
"and",
"then",
"how",
"how",
"can",
"you",
"be",
"sure",
"that",
"it",
"seems",
"like",
"your",
"model",
"would",
"sort",
"of",
"naturally",
"use",
"that",
"as",
"like",
"a",
"feature",
"in",
"the",
"model",
"and",
"then",
"it",
"would",
"sort",
"of",
"naturally",
"get",
"over",
"index",
"like",
"how",
"do",
"you",
"back",
"that",
"out",
"i",
"think",
"i",
"think",
"that's",
"how",
"you",
"that's",
"where",
"you",
"use",
"calibration",
"right",
"so",
"um",
"if",
"you",
"think",
"about",
"a",
"you",
"know",
"a",
"calibration",
"curve",
"you're",
"looking",
"at",
"how",
"you",
"know",
"your",
"your",
"scatter",
"plot",
"of",
"like",
"um",
"you",
"know",
"like",
"you",
"you",
"group",
"your",
"scores",
"right",
"so",
"the",
"thing",
"is",
"freaking",
"score",
"",
"zero",
"to",
"one",
"which",
"we",
"interpret",
"as",
"a",
"probability",
"of",
"something",
"being",
"you",
"know",
"it",
"needs",
"revi |