Datasets:

alkzar90
/

CC6204-Hackaton-Cub-Dataset

	---
	language:
	- en
	license:
	- apache-2.0
	pretty_name: CC6204-Hackaton-CUB200
	size_categories:
	- 10K<n<15K
	source_datasets:
	- extended\|other
	paperswithcode_id: cub-200-2011
	task_categories:
	- image-classification
	- text-classification
	task_ids:
	- multi-class-image-classification
	---

	## Dataset Description

	- Homepage: [CUB 200 2011](http://www.vision.caltech.edu/datasets/cub_200_2011/)
	- Repository: [Caltech Vision Lab](http://www.vision.caltech.edu/datasets/cub_200_2011/)
	- Paper: [The Caltech-UCSD Birds-200-2011 Dataset](https://authors.library.caltech.edu/27452/1/CUB_200_2011.pdf)
	- Leaderboard: [Paperswithcode](https://paperswithcode.com/dataset/cub-200-2011)
	- Point of Contact: [Catherine Wah](https://scholar.google.com/citations?user=rCDdLUsAAAAJ&hl=en)


	# CC6204: Hackaton Deep Learning 2022


	Nota: esta fue un actividad del curso CC6204: Deep Learning, Universidad de Chile, año 2022. Dictado por el profesor Iván Sipiran, material del curso [aquí](https://github.com/ivansipiran/CC6204-Deep-Learning).


	En esta actividad intentaremos resolver un problema de clasificación multimodal. En un problema de clasificación multimodal, cada pieza de información viene en diferentes representaciones (imágenes, texto, audios, etc) y la idea es determinar cómo usar esos datos para un problema de clasificación.
	En este caso trabajaremos con un dataset que contiene datos sobre especies de pájaros.

	## Dataset


	### Data Instances

	Una muestra del _dataset_ se encuentra a continuación:

	```
	{'image': <PIL.JpegImagePlugin.JpegImageFile image mode=RGB size=334x500 at 0x7F59DE348AF0>,
	'description': 'this bird has a short orange bill, white breast and body and white eyes.\na medium sized bird with a orange bill and a black crown and white eyes\nthis white-breasted bird has a short, squat, orange bill, a black head and wings, and small white eyes above a white stripe.\nthis bird has a white breast, a black head, a short red beak, and webbed feet.\nthis bird is white with black on its neck and has a long, pointy beak.\nthis bird has wings that are black and has a white belly\nthis bird has wings that are black and has a long bill\nthis is a medium sized bird, with a white belly, and a grey head and wings, with a short yellow bill.\nthis bird is white and gray in color, and has a bright orange beak.\nthis bird has a blunt orange beak with mostly black above the neck, the belly is solid white.\n',
	'label': 6,
	'file_name': 'Parakeet_Auklet_0048_795980.jpg'}
	```

	### Data Fields

	Cada instancia de datos tiene los siguientes campos:

	- `image`: imagen RGB de un pájaro
	- `description`: texto con 10 descripciones del pájaro en la foto, cada descripción esta separado por un salto de linea (i.e. `\n`)
	- `label`: un número entero que representa el id de la especie a la que pertenece el pájaro
	<details>
	<summary>Id2String</summary>
	```bash
	1 001.Black_footed_Albatross
	2 002.Laysan_Albatross
	3 003.Sooty_Albatross
	4 004.Groove_billed_Ani
	5 005.Crested_Auklet
	6 006.Least_Auklet
	7 007.Parakeet_Auklet
	8 008.Rhinoceros_Auklet
	9 009.Brewer_Blackbird
	10 010.Red_winged_Blackbird
	11 011.Rusty_Blackbird
	12 012.Yellow_headed_Blackbird
	13 013.Bobolink
	14 014.Indigo_Bunting
	15 015.Lazuli_Bunting
	16 016.Painted_Bunting
	17 017.Cardinal
	18 018.Spotted_Catbird
	19 019.Gray_Catbird
	20 020.Yellow_breasted_Chat
	21 021.Eastern_Towhee
	22 022.Chuck_will_Widow
	23 023.Brandt_Cormorant
	24 024.Red_faced_Cormorant
	25 025.Pelagic_Cormorant
	26 026.Bronzed_Cowbird
	27 027.Shiny_Cowbird
	28 028.Brown_Creeper
	29 029.American_Crow
	30 030.Fish_Crow
	31 031.Black_billed_Cuckoo
	32 032.Mangrove_Cuckoo
	33 033.Yellow_billed_Cuckoo
	34 034.Gray_crowned_Rosy_Finch
	35 035.Purple_Finch
	36 036.Northern_Flicker
	37 037.Acadian_Flycatcher
	38 038.Great_Crested_Flycatcher
	39 039.Least_Flycatcher
	40 040.Olive_sided_Flycatcher
	41 041.Scissor_tailed_Flycatcher
	42 042.Vermilion_Flycatcher
	43 043.Yellow_bellied_Flycatcher
	44 044.Frigatebird
	45 045.Northern_Fulmar
	46 046.Gadwall
	47 047.American_Goldfinch
	48 048.European_Goldfinch
	49 049.Boat_tailed_Grackle
	50 050.Eared_Grebe
	51 051.Horned_Grebe
	52 052.Pied_billed_Grebe
	53 053.Western_Grebe
	54 054.Blue_Grosbeak
	55 055.Evening_Grosbeak
	56 056.Pine_Grosbeak
	57 057.Rose_breasted_Grosbeak
	58 058.Pigeon_Guillemot
	59 059.California_Gull
	60 060.Glaucous_winged_Gull
	61 061.Heermann_Gull
	62 062.Herring_Gull
	63 063.Ivory_Gull
	64 064.Ring_billed_Gull
	65 065.Slaty_backed_Gull
	66 066.Western_Gull
	67 067.Anna_Hummingbird
	68 068.Ruby_throated_Hummingbird
	69 069.Rufous_Hummingbird
	70 070.Green_Violetear
	71 071.Long_tailed_Jaeger
	72 072.Pomarine_Jaeger
	73 073.Blue_Jay
	74 074.Florida_Jay
	75 075.Green_Jay
	76 076.Dark_eyed_Junco
	77 077.Tropical_Kingbird
	78 078.Gray_Kingbird
	79 079.Belted_Kingfisher
	80 080.Green_Kingfisher
	81 081.Pied_Kingfisher
	82 082.Ringed_Kingfisher
	83 083.White_breasted_Kingfisher
	84 084.Red_legged_Kittiwake
	85 085.Horned_Lark
	86 086.Pacific_Loon
	87 087.Mallard
	88 088.Western_Meadowlark
	89 089.Hooded_Merganser
	90 090.Red_breasted_Merganser
	91 091.Mockingbird
	92 092.Nighthawk
	93 093.Clark_Nutcracker
	94 094.White_breasted_Nuthatch
	95 095.Baltimore_Oriole
	96 096.Hooded_Oriole
	97 097.Orchard_Oriole
	98 098.Scott_Oriole
	99 099.Ovenbird
	100 100.Brown_Pelican
	101 101.White_Pelican
	102 102.Western_Wood_Pewee
	103 103.Sayornis
	104 104.American_Pipit
	105 105.Whip_poor_Will
	106 106.Horned_Puffin
	107 107.Common_Raven
	108 108.White_necked_Raven
	109 109.American_Redstart
	110 110.Geococcyx
	111 111.Loggerhead_Shrike
	112 112.Great_Grey_Shrike
	113 113.Baird_Sparrow
	114 114.Black_throated_Sparrow
	115 115.Brewer_Sparrow
	116 116.Chipping_Sparrow
	117 117.Clay_colored_Sparrow
	118 118.House_Sparrow
	119 119.Field_Sparrow
	120 120.Fox_Sparrow
	121 121.Grasshopper_Sparrow
	122 122.Harris_Sparrow
	123 123.Henslow_Sparrow
	124 124.Le_Conte_Sparrow
	125 125.Lincoln_Sparrow
	126 126.Nelson_Sharp_tailed_Sparrow
	127 127.Savannah_Sparrow
	128 128.Seaside_Sparrow
	129 129.Song_Sparrow
	130 130.Tree_Sparrow
	131 131.Vesper_Sparrow
	132 132.White_crowned_Sparrow
	133 133.White_throated_Sparrow
	134 134.Cape_Glossy_Starling
	135 135.Bank_Swallow
	136 136.Barn_Swallow
	137 137.Cliff_Swallow
	138 138.Tree_Swallow
	139 139.Scarlet_Tanager
	140 140.Summer_Tanager
	141 141.Artic_Tern
	142 142.Black_Tern
	143 143.Caspian_Tern
	144 144.Common_Tern
	145 145.Elegant_Tern
	146 146.Forsters_Tern
	147 147.Least_Tern
	148 148.Green_tailed_Towhee
	149 149.Brown_Thrasher
	150 150.Sage_Thrasher
	151 151.Black_capped_Vireo
	152 152.Blue_headed_Vireo
	153 153.Philadelphia_Vireo
	154 154.Red_eyed_Vireo
	155 155.Warbling_Vireo
	156 156.White_eyed_Vireo
	157 157.Yellow_throated_Vireo
	158 158.Bay_breasted_Warbler
	159 159.Black_and_white_Warbler
	160 160.Black_throated_Blue_Warbler
	161 161.Blue_winged_Warbler
	162 162.Canada_Warbler
	163 163.Cape_May_Warbler
	164 164.Cerulean_Warbler
	165 165.Chestnut_sided_Warbler
	166 166.Golden_winged_Warbler
	167 167.Hooded_Warbler
	168 168.Kentucky_Warbler
	169 169.Magnolia_Warbler
	170 170.Mourning_Warbler
	171 171.Myrtle_Warbler
	172 172.Nashville_Warbler
	173 173.Orange_crowned_Warbler
	174 174.Palm_Warbler
	175 175.Pine_Warbler
	176 176.Prairie_Warbler
	177 177.Prothonotary_Warbler
	178 178.Swainson_Warbler
	179 179.Tennessee_Warbler
	180 180.Wilson_Warbler
	181 181.Worm_eating_Warbler
	182 182.Yellow_Warbler
	183 183.Northern_Waterthrush
	184 184.Louisiana_Waterthrush
	185 185.Bohemian_Waxwing
	186 186.Cedar_Waxwing
	187 187.American_Three_toed_Woodpecker
	188 188.Pileated_Woodpecker
	189 189.Red_bellied_Woodpecker
	190 190.Red_cockaded_Woodpecker
	191 191.Red_headed_Woodpecker
	192 192.Downy_Woodpecker
	193 193.Bewick_Wren
	194 194.Cactus_Wren
	195 195.Carolina_Wren
	196 196.House_Wren
	197 197.Marsh_Wren
	198 198.Rock_Wren
	199 199.Winter_Wren
	200 200.Common_Yellowthroat
	```
	</details>
	- `file_name`: nombre del archivo que tiene la imagen

	### Data Splits

	\| \|train\| test\|
	\|------------------\|----:\|----:\|
	\|# de observaciones\|5994 \|5794 \|

	## Problema

	El problema consiste en entrenar un modelo que clasifique instancias del dataset CUB de la mejor manera posible. Algunas preguntas que podrían guiar nuestro desarrollo son:

	* Se podrá obtener un buen _performance_ de clasificación solo usando las imágenes del dataset? Este tipo de problema sería el clásico problema de clasificar imágenes.
	* Se podrá obtener un buen _performance_ de clasificación solo usando los textos del dataset? Este tipo de problema sería el clásico problema de clasificar texto.
	* Se podrá obtener un mejor _performance_ si combino la información en un modelo multimodal? Cómo construyo un modelo multimodal que reciba una imagen y un texto y clasifique la instancia con su respectiva especie? Hint: piense en cómo una red neuronal (la que sea) es simplemente una función que recibe un dato y genera una representación de alto nivel (vector característico) de ese dato. Una red CNN podría hacerse cargo de calcular la representación de una imagen y una red RNN podría hacerse cargo de calcular la representación del texto. Finalmente concateno ambas representaciones y entreno un MLP final que hace la clasificación.

	## Experimentación

	Como el dataset es grande y los recursos de computación son muy limitados, una estrategia para hacer los experimentos es tomar una muestra más pequeña de datos para ir probando las ideas. Para esta estrategia, éstas son dos ideas válidas:

	* Tomar menos instancias por cada clase para el desarrollo y solo dejar el dataset final para hacer el entrenamiento final y la evaluación final con testing.
	* Tomar menos clases para el desarrollo inicial y solo dejar el dataset final para hacer el entrenamiento final y la evaluación final con testing.

	Ambas estrategias nos permiten lidiar con los recursos limitados que tenemos, pero cuáles son sus ventajas o desventajas? Si usas alguna de estas estrategias, puedes comentar este punto en tu desarrollo final.

	## Métrica de Evaluación

	La métrica que se debe reportar es el accuracy en conjunto de test.

	## Citation Information

	Sitio web del [_dataset_ CUB200](http://www.vision.caltech.edu/datasets/cub_200_2011/), y reporte técnico [aquí](https://authors.library.caltech.edu/27452/1/CUB_200_2011.pdf).

	```
	@techreport{WahCUB_200_2011,
	Title = The Caltech-UCSD Birds-200-2011 Dataset,
	Author = {Wah, C. and Branson, S. and Welinder, P. and Perona, P. and Belongie, S.},
	Year = {2011}
	Institution = {California Institute of Technology},
	Number = {CNS-TR-2011-001}
	}
	```

	## Contributions

	Creación y adaptación del material de la actividad en un Hugging Face dataset por Cristóbal Alcázar.