{{위키데이터 속성 추적}}
{{기계 학습}}
'''특징 학습'''(feature learning) 또는 '''표현 학습'''(representation learning)은 [[특징 (기계 학습)|특징]]을 자동으로 추출할 수 있도록 학습하는 과정이다. [[지도 학습]]과 [[비지도 학습]]으로 나눌 수 있다.

특징 학습은 [[통계적 분류]]와 같은 머신 러닝 과제가 수학적으로나 컴퓨터상에서 처리하기 편리한 입력을 종종 요구하기 때문에 필요하다. 그러나 특정한 특징을 알고리즘으로 정의하려는 시도는 사진, 영상, 감각 데이터와 같은 실제 세계의 데이터에 대해서는 어려움을 겪었다. 이에 대한 대안으로 명시적인 알고리즘에 의존하지 않고 이러한 특징들을 검사를 통해 발견하는 것이 제안되었다.

특징 학습에는 지도, 비지도, 자기지도 학습이 있다.
* [[지도 학습]]은 레이블이 있는 입력값을 사용하여 특징을 학습하는 것이다. 레이블이 지정된 데이터는 입력-레이블 쌍을 포함하고 있으며 정답으로 실측 자료 레이블을 내놓아야 한다.<ref>Stuart J. Russell, Peter Norvig (2010) ''[[Artificial Intelligence: A Modern Approach]], Third Edition'', Prentice Hall {{ISBN|978-0-13-604259-4}}.</ref> 지도 학습은 높은 레이블 예측 정확도를 가져오는 모델로 특징 표현을 생성하는 데 활용할 수 있다. 응용의 예시로는 [[인공 신경망]], [[다층 퍼셉트론]], [[사전 학습]]이 있다.
* [[비지도 학습]]은 레이블이 없는 데이터를 이용하여 데이터 간의 관계를 분석하는 방식으로 특징을 학습한다.<ref>Hinton, Geoffrey; Sejnowski, Terrence (1999). ''Unsupervised Learning: Foundations of Neural Computation''. MIT Press. {{ISBN|978-0-262-58168-4}}.</ref> 사전 학습, [[독립 성분 분석]], [[행렬 분해]],<ref>{{콘퍼런스 인용
|author1=Nathan Srebro |author2=Jason D. M. Rennie |author3=Tommi S. Jaakkola
|title=Maximum-Margin Matrix Factorization
|conference=[[Conference on Neural Information Processing Systems|NIPS]]
|year=2004
}}</ref> 다양한 형태의 [[클러스터 분석]]이 여기 포함된다.<ref name="coates2011">{{콘퍼런스 인용
|last1 = Coates
|first1 = Adam
|last2 = Lee
|first2 = Honglak
|last3 = Ng
|first3 = Andrew Y.
|title = An analysis of single-layer networks in unsupervised feature learning
|conference = Int'l Conf. on AI and Statistics (AISTATS)
|year = 2011
|url = http://machinelearning.wustl.edu/mlpapers/paper_files/AISTATS2011_CoatesNL11.pdf
|access-date = 2014-11-24
|archive-url = https://web.archive.org/web/20170813153615/http://machinelearning.wustl.edu/mlpapers/paper_files/AISTATS2011_CoatesNL11.pdf
|archive-date = 2017-08-13
|url-status = dead
}}</ref><ref>{{콘퍼런스 인용
|last1 = Csurka |first1 = Gabriella
|last2 = Dance |first2 = Christopher C.
|last3 = Fan |first3 = Lixin
|last4 = Willamowski |first4 = Jutta
|last5 = Bray |first5 = Cédric
|title = Visual categorization with bags of keypoints
|conference = ECCV Workshop on Statistical Learning in Computer Vision
|year = 2004
|url = https://www.cs.cmu.edu/~efros/courses/LBMV07/Papers/csurka-eccv-04.pdf
}}</ref><ref name="jurafsky">{{서적 인용|title=Speech and Language Processing |author1=Daniel Jurafsky|author-link=Daniel Jurafsky|author2=James H. Martin |publisher=Pearson Education International |year=2009 |pages=145–146}}</ref>
* [[자기지도 학습]]에서 특징은 비지도 학습처럼 레이블이 없는 데이터를 사용하여 학습된다. 그러나 입력-레이블 쌍은 각 데이터 지점에서 만들어져, 기울기 하강과 같은 지도 학습법을 통해 데이터 구조를 학습할 수 있게 된다.<ref name=":0">{{저널 인용|last1=Ericsson |first1=Linus |last2=Gouk |first2=Henry |last3=Loy |first3=Chen Change |last4=Hospedales |first4=Timothy M. |date=May 2022 |title=Self-Supervised Representation Learning: Introduction, advances, and challenges |url=https://ieeexplore.ieee.org/document/9770283 |journal=IEEE Signal Processing Magazine |volume=39 |issue=3 |pages=42–62 |doi=10.1109/MSP.2021.3134634 |s2cid=239017006 |issn=1558-0792}}</ref> 고전적인 예시로는 [[워드 임베딩]], [[오토인코더]]가 있다.<ref name=":3">{{저널 인용|last1=Mikolov |first1=Tomas |last2=Sutskever |first2=Ilya |last3=Chen |first3=Kai |last4=Corrado |first4=Greg S |last5=Dean |first5=Jeff |date=2013 |title=Distributed Representations of Words and Phrases and their Compositionality |url=https://proceedings.neurips.cc/paper/2013/hash/9aa42b31882ec039965f3c4923ce901b-Abstract.html |journal=Advances in Neural Information Processing Systems |publisher=Curran Associates, Inc. |volume=26}}</ref><ref name=":1">Goodfellow, Ian (2016). ''Deep learning''. Yoshua Bengio, Aaron Courville. Cambridge, Massachusetts. pp. 499–516. {{ISBN|0-262-03561-8}}. {{OCLC|955778308}}.</ref> 자기지도 학습은 [[합성곱 신경망]]이나 [[변환기 (기계 학습)|변환기]] 등의 심층 신경망을 통해 많은 분야에 응용되어 왔다.<ref name=":0" />

== 같이 보기 ==
* [[AutoML]]
* [[딥 러닝]]
* [[워드 임베딩]]
* [[벡터 양자화]]
* [[변분 오토인코더]]
== 각주 ==
{{각주}}

{{토막글|컴퓨터 과학}}

[[분류:기계 학습]]