ImageNet

ImageNet là một cơ sở dữ liệu cho nhiệm vụ nhận dạng vật thể (object classification) trong thị giác máy tính. Nó bao gồm tổng cộng 14.197.122 ảnh được dán nhãn thủ công, trong đó 1.034.908 ảnh có các hộp giới hạn cho nhiệm vụ định vị vật thể (object detection). 

Từ năm 2010 đến năm 2017, cuộc thi Thử thách Nhận dạng Hình ảnh Quy mô Lớn trên tập dữ liệu này (ImageNet Large Scale Visual Recognition Challenge, ILSVRC) đươc tổ chức thường niên. Những mô hình đặt thứ hạng cao trong cuộc thi này đã tạo ra các bước đột phá quan trọng trong thuật toán học sâu nói riêng và lĩnh vực học máy nói chung.

Tệp dữ liệu 
ImageNet sử dụng hệ thống phân loại dựa trên WordNet, trong đó mỗi khái niệm (không phải mỗi từ, vì có nhiều từ đồng nghĩa, ví dụ "kitty" và "young cat" đều nghĩa là "mèo con") được gọi là một "tập hợp từ đồng nghĩa" (synset). Toàn bộ cơ sở dữ liệu được xây dựng từ 21.841 synset là các danh từ đếm được có thể minh họa bằng hình ảnh, lọc từ hơn 100.000 synset trong WordNet 3.0. Các danh mục trong ImageNet trải dài 9 cấp bậc, từ cấp 1 khá chung chung (như "động vật có vú") đến cấp 9 rất cụ thể (như "chó chăn cừu Đức"). Ảnh được thu thập từ các công cụ tìm kiếm hình ảnh trực tuyến (Google, Flickr, Yahoo...) bằng cách tìm kiếm theo từ đồng nghĩa trong nhiều ngôn ngữ. Ảnh có độ phân giải khác nhau và được lưu ở định dạng RGB; trong thực tế, các mô hình học máy thường chuẩn hóa ảnh về một độ phân giải cố định trước khi xử lý. Mỗi ảnh được gán nhãn đúng một synset. Ngoài nhãn danh mục, một số ảnh còn có hộp giới hạn (bounding box) khoanh vùng vị trí của đối tượng trong ảnh.

Các phiên bản 
Phiên bản đầy đủ ban đầu, gọi là ImageNet-21K, gồm 14.197.122 ảnh chia thành 21.841 danh mục, được phát hành vào mùa thu năm 2011. Không có phân chia huấn luyện/kiểm định/kiểm thử (train/validation/test) chính thức cho ImageNet-21K như MNIST hay CIFAR; một số danh mục chỉ có 1–10 ảnh trong khi nhiều danh mục khác có đến hàng nghìn. Tập con được sử dụng phổ biến nhất là ImageNet-1K,được sử dụng cho cuộc thi ILSVRC. ImageNet-1K gồm 1.281.167 ảnh huấn luyện, 50.000 ảnh kiểm định và 100.000 ảnh kiểm thử, chia thành 1.000 danh mục lá — tức là các danh mục không có danh mục con nhỏ hơn bên dưới. 

Ngoài ra, còn có một số biến thể được xây dựng cho các mục đích nghiên cứu cụ thể. ImageNet-C (2019) là phiên bản bị nhiễu có chủ đích, dùng để đánh giá độ bền của mô hình trước các biến dạng thông thường. ImageNetV2 (2019) gồm ba tập kiểm thử mới với 10.000 ảnh mỗi tập, được xây dựng theo cùng phương pháp với ImageNet gốc nhằm kiểm tra khả năng tổng quát hóa của mô hình. ImageNet-21K-P (2021) là phiên bản đã được lọc và chuẩn hóa của ImageNet-21K, gồm 12.358.688 ảnh từ 11.221 danh mục, tất cả được đổi kích thước về 224×224 pixel.

Sai sót và thiên kiến 
Dù được gán nhãn ba lần, ImageNet vẫn có tỷ lệ lỗi đáng kể. Ước tính hơn 6% nhãn trong tập kiểm định ImageNet-1K bị sai. Một nghiên cứu khác cho thấy khoảng 10% nhãn trong ImageNet-1K là mơ hồ hoặc sai; khi được hỏi so sánh giữa nhãn gốc và dự đoán của mô hình hiện đại, người gán nhãn hiện nay thường chọn dự đoán của mô hình hơn là nhãn ban đầu. Ngoài lỗi nhãn, ImageNet còn mang theo thiên kiến từ cấu trúc phân loại của WordNet. Vấn đề này đặc biệt rõ ở nhánh phân loại con người: trong số 2.832 synset thuộc nhánh "person" của WordNet, 1.593 synset bị đánh giá là "có khả năng gây xúc phạm". Trong giai đoạn 2018-2020, ImageNet đã tiến hành lọc lại toàn bộ nhánh này, và kết quả chỉ còn 158 synset được giữ lại. Đến năm 2021, thêm 2.702 danh mục trong nhánh người bị xóa khỏi ImageNet-21K, chỉ còn lại 130 synset. Cùng năm đó, ImageNet-1K được cập nhật bằng cách làm mờ khuôn mặt xuất hiện trong 997 danh mục không phải người; trong tổng số 1.431.093 ảnh của tập này, 243.198 ảnh (17%) chứa ít nhất một khuôn mặt với tổng cộng 562.626 khuôn mặt. Các thử nghiệm cho thấy việc làm mờ khuôn mặt không ảnh hưởng đáng kể đến hiệu suất của mô hình được huấn luyện trên tệp dữ liệu này.

Lịch sử 
Nhà nghiên cứu AI Fei-Fei Li bắt đầu ấp ủ ý tưởng về ImageNet từ năm 2006. Vào thời điểm đó, phần lớn nghiên cứu AI tập trung vào mô hình và thuật toán; Li muốn mở rộng và cải thiện dữ liệu dùng để huấn luyện các thuật toán đó. Năm 2007, bà gặp giáo sư Christiane Fellbaum tại Đại học Princeton, một trong những tác giả của cơ sở dữ liệu từ vưng WordNet, để thảo luận về dự án. Cuộc gặp này dẫn đến quyết định xây dựng ImageNet từ khoảng 22.000 danh từ của WordNet, kế thừa nhiều đặc điểm của hệ thống đó. Li cũng lấy cảm hứng từ một ước tính năm 1987 cho rằng một người bình thường có thể nhận ra khoảng 30.000 loại vật thể khác nhau.

Với tư cách trợ lý giáo sư tại Đại học Princeton, Li tập hợp một nhóm nghiên cứu để triển khai dự án. Họ sử dụng Amazon Mechanical Turk để phân loại hình ảnh. Quá trình gán nhãn bắt đầu vào tháng 7 năm 2008 và kết thúc vào tháng 4 năm 2010, huy động 49.000 người lao động từ 167 quốc gia để lọc và gán nhãn hơn 160 triệu ảnh ứng viên. 

Kế hoạch ban đầu dự kiến 10.000 ảnh mỗi danh mục, với 40.000 danh mục, tổng cộng 400 triệu ảnh, mỗi ảnh được xác minh 3 lần. Tuy nhiên, người gán nhãn chỉ có thể phân loại tối đa 2 ảnh/giây - theo tốc độ đó, ước tính cần đến 19 năm gắn nhãn không nghỉ để hoàn thành. Vì quá tốn thời gian và thuê thêm nhân công quá tốn kém, họ chỉ có thể hoàn thành 3,5% dự tính ban đầu với 14 triệu ảnh. Cơ sở dữ liệu được giới thiệu lần đầu dưới dạng áp phích tại Hội nghị về Thị giác Máy tính và Nhận dạng Mẫu (CVPR) năm 2009 tại Florida, với tiêu đề "ImageNet: A Preview of a Large-scale Hierarchical Dataset".

Năm 2009, Alex Berg đề xuất bổ sung nhiệm vụ định vị vật thể. Li tiếp cận ban tổ chức cuộc thi PASCAL Visual Object Classes để hợp tác, dẫn đến sự ra đời của ImageNet Large Scale Visual Recognition Challenge (ILSVRC) từ năm 2010 với 1.000 danh mục và nhiệm vụ định vị đối tượng, so với PASCAL VOC chỉ có 20 danh mục và 19.737 ảnh.

Cuộc thi ImageNet 
Để "phổ cập hóa" ImageNet, Fei-Fei Li đề xuất hợp tác với nhóm PASCAL VOC từ năm 2010, trong đó các nhóm nghiên cứu đánh giá thuật toán của mình trên tệp dữ liệu chung và cạnh tranh đạt độ chính xác cao hơn trên một số nhiệm vụ nhận dạng hình ảnh.

Cuộc thi thường niên này được gọi là ImageNet Large Scale Visual Recognition Challenge (ILSVRC). ILSVRC sử dụng danh sách rút gọn gồm 1.000 danh mục ảnh, trong đó có 90 trong số 120 giống chó được phân loại trong ImageNet đầy đủ.

Cuộc thi đầu tiên năm 2010 có 11 nhóm tham gia. Nhóm thắng cuộc sử dụng máy vector hỗ trợ (SVM) tuyến tính với đặc trưng là lưới dày đặc HoG và LBP, đạt độ chính xác top-5 (tức là nếu một trong 5 câu trả lời mà mô hình tự tin nhất trùng với nhãn thực tế là đã được tính là đúng) là 71,8%. Mô hình được huấn luyện trong 4 ngày trên ba máy 8 nhân. Cuộc thi năm 2011 có ít nhóm tham gia hơn. Nhóm thắng cuộc là XRCE của Florent Perronnin và Jorge Sanchez, sử dụng SVM tuyến tính chạy trên Fisher vector lượng tử hóa, đạt độ chính xác top-5 là 74,2%.

Năm 2012 chứng kiến một cuộc "cách mạng" lớn, khi mạng neuron tích chập sâu AlexNet đạt độ chính xác top-5 là 84,7%. Vị trí thứ hai thuộc về Nhóm Hình học Thị giác thuộc Đại học Oxford, vẫn sử dụng kiến trúc SVM kết hợp SIFT và Fisher vector, thua AlexNet hơn 10 điểm phần trăm. Dù AlexNet chỉ kết hợp các thành phần đã có từ trước như mạng neuron tích chập của LeNet  hay hàm kích hoạt ReLU vốn đã được dùng trong mạng thần kinh hồi quy, bước cải thiện định lượng đột biến này đánh dấu sự khởi đầu của làn sóng bùng nổ trí tuệ nhân tạo toàn ngành.

Năm 2013, phần lớn các nhóm xếp hạng cao đều sử dụng mạng nơ-ron tích chập. Nhóm thắng hạng mục định vị đối tượng là OverFeat, một kiến trúc thực hiện đồng thời phân loại và định vị đối tượng. Nhóm thắng hạng mục phân loại là tập hợp nhiều CNN của Clarifai. Đến năm 2014, hơn 50 tổ chức tham gia ILSVRC. Nhóm thắng hạng mục phân loại là GoogLeNet; nhóm thắng hạng mục định vị là VGGNet.

Năm 2015, nhóm thắng cuộc là ResNet của nhóm nghiên cứu từ Microsoft với mạng CNN sâu hơn 100 lớp, đạt tỷ lệ lỗi 3,57% trên tập kiểm thử, vượt qua hiệu suất của con người nhờ kỹ thuật kết nối tắt (residual connection). Tuy nhiên, điều này không có nghĩa rằng chúng đã thực sự tốt hơn con người trong nhiệm vụ này: một trong những người tổ chức cuộc thi, Olga Russakovsky, chỉ ra rằng ILSVRC chỉ giới hạn ở 1.000 danh mục; con người có thể nhận ra nhiều danh mục hơn và còn có khả năng đánh giá ngữ cảnh của ảnh; một điều mà các mô hình chưa làm được. Andrej Karpathy ước tính năm 2014 rằng với nỗ lực tập trung tối đa, một người có thể đạt tỷ lệ lỗi 5,1%; ước tính khác cho rằng giới hạn trên của con người vào khoảng 2,4%.

Năm 2016, nhóm thắng cuộc là CUImage, một mô hình kết hợp gồm 6 mạng: Inception v3, Inception v4, Inception ResNet v2, ResNet 200, Wide ResNet 68 và Wide ResNet 3. Nhóm về nhì là ResNeXt, kết hợp mô-đun Inception với ResNet. Năm 2017, nhóm thắng cuộc là Squeeze-and-Excitation Network (SENet), giảm tỷ lệ lỗi top-5 xuống còn 2,251%. Cùng năm đó, 29 trong số 38 nhóm tham gia đạt độ chính xác trên 95%. 

Ban tổ chức tuyên bố 2017 sẽ là kỳ thi cuối cùng vì thách thức đã được giải quyết, đồng thời thông báo sẽ tổ chức một cuộc thi mới về ảnh 3D. Tuy nhiên, cuộc thi đó chưa bao giờ được tổ chức.

Tham khảo 

Khoa học máy tính
Trí tuệ nhân tạo
Học máy
Học sâu
Tập dữ liệu trong thị giác máy tính
Tập dữ liệu trong học máy