델타 규칙

델타 규칙(delta rule)은 경사 하강법(Gradient Descent) 학습 방법으로, 싱글 레이어 퍼셉트론에서 인공 뉴런들의 연결강도를 갱신하는데 쓰인다. 뉴런 와 활성함수  에 대하여, 의 번째 연결강도 에 대한 델타 규칙은 다음과 같다.
,

여기서 는 학습 속도라고 불리는 작은값의 상수이고, 는 뉴런의 활성함수, 는 원하는 목표 결과값, 는 실제 결과값, 그리고 는 번째 입력값이다. 이것은 다음 식을 만족한다.
 and .

델타 규칙은 다음과 같은 선형 활성함수를 가진 간단한 형태의 퍼셉트론에서 주로 언급된다.

신경망
인공신경망