Обучение с подкреплением

Обучение с подкреплением

Основа этой теории по разным источникам известна как модификация поведения, теория подкрепления, оперантное обусловливание, бихевиоризм, психология поведения и т.д.; это тот раздел психологии, который принес мировую известность Б.Ф.Скиннеру, профессору Гарвардского университета.

Обучение с подкреплением — это вовсе не система наград и наказаний; современные тренеры даже не используют этих терминов. Награды и наказания приходят обычно после того, как действие совершено, часто спустя длительное время, как, например, в уголовном суде. Они могут повлиять, а могут и не повлиять на будущее поведение, но они, безусловно, не могут воздействовать на уже совершенное действие. Подкрепление — будь то “положительное”, то, к чему надо стремиться, например, улыбка или ласка, или “отрицательное” — то, чего надо избегать, подобно рывку поводка или нахмуренным бровям — происходит именно во время поведения, на которое надо воздействовать. Подкрепление изменяет поведение только тогда, когда дается в правильно выбранный момент.

Обучающие машины и программированные учебники, разработанные на основе Скиннеровской теории, были первыми попытками разбить обучение на этапы и поощрять обучающегося за правильные ответы. Эти ранние механизмы были неуклюжими, но именно они были предвестниками компьютерного обучения, которое оказалось не только высокоэффективным, благодаря совершенству выбора времени подкрепления компьютером, но и внесло в процесс обучения веселые нотки в связи с забавным характером подкрепления (фейерверки, танцующие роботы). Программы подкрепления, использующие жетоны и талоны, которые можно накопить и обменять на конфеты, сигареты или какие-то льготы, были установлены в психиатрических лечебницах и некоторых других учреждениях. 

Тренировка с подкреплением не разрешает всех проблем — она не увеличит ваш счет в банке, не спасет от неудачной женитьбы, не поможет в случаях тяжелых заболеваний психики. Некоторые ситуации, например, плач ребенка, не имеет отношения к проблеме тренировки и требуют других методов разрешения. Некоторые типы поведения человека и животных имеют генетические компоненты, которые трудно или невозможно изменить тренировкой. Ряд проблем просто не стоит того, чтобы тратить время на тренировку. Но во многих случаях, когда жизнь бросает человеку вызов, ставит задачи и посылает неприятности, правильное использование подкрепления может оказаться полезным.

Что такое положительное подкрепление

Положительное подкрепление — это событие, совпадающее с каким-либо действием и ведущее к увеличению вероятности повторного совершения этого действия.

Запомните это положение. В нем заложен секрет успешного обучения.

Существуют два вида подкрепления: положительное и отрицательное. Положительное подкрепление — это нечто, желаемое субъектом: пища, ласка или похвала. Негативное подкрепление — это то, чего субъект хотел бы избежать: шлепок, нахмуривание бровей, неприятный звук (предупреждающий зуммер в машинах, который раздается, если вы забыли пристегнуть ремень безопасности, — это отрицательное подкрепление).

Поведение, которое уже встречается, вне зависимости от того, насколько оно спорадично, всегда можно усилить с помощью положительного подкрепления.

Поведение, которое уже встречается, вне зависимости от того, насколько оно спорадично, всегда можно усилить с помощью положительного подкрепления. Если вы зовете щенка, и он подходит к вам, а вы его ласкаете, то в дальнейшем подход щенка на зов становится все более и более надежным даже безо всякого другого обучения. Предположим, что вы хотите, чтобы кто-то позвонил вам — ваш отпрыск, родитель или любимый. Если он или она не звонит, то тогда уж ничего не поделаешь. Самое главное в обучении с подкреплением то, что вы не можете подкрепить поведение, которое не встречается. С другой стороны, если вы всегда проявляете радость, когда любимые вам звонят, то это значит, что их поведение положительно подкрепляется, вероятность частоты их звонков, очевидно, увеличится. Конечно, если вы примените отрицательное подкрепление — “Почему ты не позвонил, почему я должна тебе звонить, ты мне никогда не звонишь” и т.д., замечания, которые вызывают раздражение, — вы создаете ситуацию, при которой звонящий избегает неприятностей тем, что не звонит; фактически вы обучаете их не звонить.

Подкрепление относительно, не абсолютно. Дождь является положительным подкреплением для уток, отрицательным для кошек, довольно безразличен, по крайней мере во влажную погоду, для коров. Пища не является положительным подкреплением, если вы сыты. Улыбки и похвалы могут быть непригодными в качестве подкрепления, если субъект хочет вывести вас из. себя. В качестве подкрепления надо выбирать нечто желаемое субъектом.

Положительное подкрепление приносит пользу и при взаимоотношениях между людьми. Оно лежит в основе искусства делать подарки: точно угадать, что будет иметь подкрепляющее действие (правильный выбор является подкреплением и для делающего подарок). 

Время подачи подкрепления

Запоздалое подкрепление является наибольшим недочетом начинающего дрессировщика. Собака садится, но к тому времени, когда хозяин говорит: “Хорошая собака”, собака уже снова стоит. За что, думает животное, его хвалят? За то, что оно встает. Если у вас возникают трудности в дрессировке, первый вопрос, который надо себе задать, не запаздывает ли ваше подкрепление. 

Мы всегда слишком запаздываем подкрепляя друг друга. “Послушай, дорогая, вчера вечером ты выглядела замечательно”, — звучит совсем не так, как та же фраза, сказанная вовремя. Отсрочка подкрепления может даже оказать вредное воздействие (“А что, разве я сейчас не выгляжу замечательно?”). Мы свято верим, что сила слов перекроет ошибки во времени подкрепления.

Слишком раннее подкрепление тоже неэффективно. Это называется взяточничеством. 

Мне кажется, что иногда и детей мы подкрепляем слишком рано, находясь под ложным впечатлением, будто мы их подбадриваем (“Молодец, хорошо, ты уже почти все сделала правильно”). Возможно, при этом мы подкрепляем попытки. Но существует разница между попыткой сделать что-то и выполнением этого. Причитания типа “я не могу” иногда отражают фактическое положение вещей, но они могут являться и признаками того, что часто подкреплялись просто попытки. Вообще, подкрепление поведения, которое еще не совершилось, — подарками, обещаниями, комплиментами или чем-нибудь в этом роде — ни капельки не подкрепляет это поведение. Если что-то и подкрепляется, так это поведение, совершающееся в данное время: вероятнее всего — выпрашивание подкрепления.

Величина подкрепления

Не давайте сразу много…

Основное правило дрессировщика заключается в том, что если вы собираетесь провести в день одно занятие, то можете рассчитывать на хорошую работу животного примерно за четверть его дневного рациона, остальное дается после окончания работы. Если же вам надо провести три или четыре занятия в день, то дневную порцию пищи надо разделить примерно на восемьдесят частей и за один сеанс давать двадцать или тридцать. Восемьдесят подкреплений, видимо, являются максимумом, способным заинтересовать субъекта в течение дня. (Может быть, поэтому слайдовая кассета содержит восемьдесят слайдов; по крайней мере, когда лектор просит демонстратора показать вторую кассету слайдов, я тяжело вздыхаю.)

Большой куш

Одним из наиболее полезных приемов пищевого или какого-либо другого подкрепления для человека и животных является получение куша. Это награда, которая во много, иногда в 10 раз больше обыкновенного подкрепления и являющаяся сюрпризом для субъекта. В рекламном агентстве, где я когда-то работала, бывали официальные вечера на Рождество, а также неофициальные праздники по поводу окончания большой работы или заполучения нового клиента. Но у председателя правления была еще привычка устраивать в год один-два абсолютно неожиданных вечера. Внезапно в середине дня он проносился по всем комнатам конторы, крича, чтоб все кончали работу. Коммутаторы выключались, появлялась процессия поставщиков провизии, музыканты, буфетчики, шампанское, копченая семга, и все это только для нас и безо всякой особенной причины. Это было неожиданным кушем для пятидесяти человек. Я думаю, что это очень способствовало поднятию духа коллектива.

Условное подкрепление

Наша жизнь изобилует условными подкреплениями. Нам нравится слышать, как звонит телефон или видеть набитый почтовый ящик, даже если половина звонков неинтересна и большая часть корреспонденции — утиль, потому что множество случаев научили нас связывать звонок или конверт с хорошим. Нам нравится рождественская музыка, и мы ненавидим запах зубного кабинета. Мы храним, окружающие нас вещи — картины, посуду, трофеи — не потому, что они красивы или полезны, а потому, что они напоминают нам о временах, когда мы были счастливы, или о людях, которых мы любили. Они представляют собой условные подкрепления.

Условные подкрепления приобретают чрезвычайную силу. Так как информация “Ты прав” сама по себе представляет Ценность, она не обязательно должна сопровождаться первичным подкреплением. Фактически использование пищи, ласки или чего-нибудь в этом роде можно практически свести к нулю, а условное подкрепление будет приносить прекрасные результаты. Я видела, как морские млекопитающие долго работали после насыщения за условные подкрепления, а лошади и собаки работают по часу и более с маленьким или безо всякого безусловного подкрепления. Люди конечно же тоже могут бесконечно работать за деньги, являющиеся ничем иным как условным подкреплением, обозначением вещей, которые на них можно купить, особенно люди, которые уже заработали гораздо больше денег, чем они когда-либо смогут действительно потратить, и, следовательно, пристрастившиеся к условному подкреплению.

Действие условного подкрепления можно усилить, сочетая его с несколькими безусловными подкреплениями. В данный момент субъект может не хотеть, скажем, есть, но если тот же подкрепляющий звук или слово были умышленно связаны еще и с водой или другими потребностями или приятными моментами, он сохраняет свое действие и в этом случае. Быть может, причина того, что деньги оказывают на нас такое подкрепляющее действие, кроется в том, что они могут связываться практически с чем угодно. Это чрезвычайно обобщенное условное подкрепление.

Как только вы выработали условное подкрепление, вы Должны пользоваться им осторожно, не разбрасывать без толку, иначе его сила уменьшится. Существует множество реальных событий, заслуживающих похвалы, подкрепления, которым щедро обмениваются в счастливых семьях. Однако фальшивая или незначимая награда вскоре вызывает негодование даже у маленьких детей и теряет всякую силу в качестве подкрепления.

Режимы подкрепления

Бытует неправильный взгляд, что если вы начали вырабатывать поведение с помощью положительного подкрепления, то должны продолжать его применение на протяжении всей дельнейшей жизни субъекта, если этого не будет, то поведение исчезнет. Это неверно: постоянное подкрепление необходимо только на стадиях обучения. Вы можете несколько раз вознаградить годовалого ребенка за пользование горшком, но как только поведение заучено, предмет обучения сам о себе позаботится. Мы даем или должны давать начинающему множество подкреплений — обучение ребенка езде на велосипеде идет под настоящий поток: “Правильно, крепче держи руль, у тебя получилось, хорошо!” Но вы будете выглядеть довольно глупо (а ребенок решит, что вы сошли с ума), если вы будете продолжать хвалить его после того как навык установился.

Для того чтобы поддерживать уже выученное поведение на определенном уровне надежности, не только не надо подкреплять его все время, а даже, наоборот, следует прекратить регулярные подкрепления и перейти на эпизодическое использование подкрепления, подаваемого в случайном и непредсказуемом порядке.

Это и есть то, что психологи называют вариабельным режимом подкрепления. Вариабельный режим гораздо более эффективен для поддержания поведения, чем постоянный, предсказуемый. Один психолог объяснил это мне так: если у вас машина новая и всегда хорошо заводилась, а однажды, когда вы сели в нее, повернули ключ, она не завелась, то вы, может быть, и попробуете завести ее еще несколько раз, но скоро решите, что что-нибудь не в порядке, и позвоните в гараж. Поведение, состоящее в поворачивании ключа, при отсутствии ожидаемого немедленного подкрепления быстро угаснет. С другой стороны, если у вас вместо машины старая консервная банка, которая еще ни разу не заводилась с первой попытки, и каждый раз требуется целая вечность для того, чтобы привести ее в движение, вы можете продолжать попытки ее завести в течение получаса; ваше поведение по поворачиванию ключа происходит в низковероятностном режиме подкрепления и поэтому сильнейшим образом поддерживается.

Действенность вариативного подкрепления лежит в основе всех азартных игр. Если каждый раз, опустив в автомат 5 центов, будете получать десять, то скоро вы потеряете к этому интерес. Да, вы будете делать деньги, но какой это нудный способ! Людям нравится играть с автоматом именно потому, что невозможно предугадать заранее, то ли ничего не получишь, то ли какую-то мелочь, то ли сразу кучу денег, и. когда именно будет это подкрепление (это может быть только один самый первый раз). Почему одни люди втягиваются в азартную игру, а другие могут поиграть и бросить, это уже другой вопрос, но для тех, кто попался на крючок, этим крючком стал вариативный режим положительного подкрепления.

Чем длительнее интервалы между подкреплениями в вариативном режиме, тем сильнее он стимулирует поведение. Однако режимы с длительными интервалами работают против вас, когда вы пытаетесь угасить поведение. Если поведение не подкреплять совсем, то скоро появится тенденция к его угасанию; но если оно все-таки время от времени подкрепляется — неважно сколь эпизодично — одна сигарета, одна рюмка, одна поблажка ворчуну или нытику — и поведение вместо того, чтобы угашаться, может быть значительно усилено режимом с длительными интервалами между подкреплениями.

Всем встречались люди, которые непонятным образом привязаны к супругам или любовникам, которые с ними плохо обращаются. Мы привыкли думать, что так бывает только с женщинами — она чувствует влечение к тому, кто груб, невнимателен, эгоистичен и даже жесток, она его все равно любит, — но это случается и с мужчинами. Каждый, знает людей, которые после развода или другого рода утраты одного негодяя находят другого, в точности похожего на предыдущего.

Являются ли эти люди вечными жертвами по каким-либо глубоким психологическим причинам? Возможно. Но, может быть, они — жертвы режима с длительными интервалами между подкреплениями? Если вы вступили в связь с очаровательным, обаятельным, интересным в сексуальном плане, веселым и внимательным человеком, а затем он становится все более несговорчивым, даже обидчивым, но все же время от времени проявляет свои хорошие качества, вы станете жить ради этих все более редких моментов, когда вы получаете это прекрасное подкрепление: полное очарования, обаяния, привлекательности и веселья внимание. И парадоксально с точки зрения здравого смысла, но закономерно с точки зрения теории обучения, что чем реже и непредсказуемей становятся такие моменты, тем сильнее становится их подкрепляющий эффект, и тем дольше ваша линия поведения будет сохраняться. Кроме того, легко понять, почему человек, однажды оказавшийся в таких отношениях, часто ищет их повторения: ему может казаться, что во взаимоотношениях с нормальным человеком, который сдержан и доброжелателен большую часть времени, не хватает остроты того редкого, страстно желаемого и потому вдвойне действенного -подкрепления.

Посмотрите на ситуацию с точки зрения человека, управляющего поведением: я могу держать ее (его) в безоговорочном подчинении, так, чтобы она (он) делала все, что я захочу, ради моего удобства и спокойствия, до тех пор пока я даю ей (ему) все, что она (он) хочет... изредка. Это один из способов, которыми сутенеры держат в повиновении своих девочек. Конечно, это крепкие путы, но однажды жертва осознает, что сила “очарования” по крайней мере отчасти зависит от режима подкрепления, и спокойно уйдет от этого типа отношений и поищет что-то другое.

Исключения из правила вариативного подкрепления

Лишь в одном случае не следует прибегать к вариативному режиму подкрепления, после того как поведение заучено, — это когда оно направлено на решение своего рода головоломки или теста. При одном из видов дрессировки собака должна выбирать из нескольких разнородных предметов тот, который побывал в руках у хозяина и хранит его запах. При этом необходимо каждый раз говорить собаке, что она выбрала правильно, чтобы в следующий раз она знала, что надо делать. В тестах на различение, — скажем, идентификация более высокого из двух звуков — необходимо подкреплять каждый правильный ответ испытуемого, чтобы он был постоянно информирован о том, какую задачу он решает (подойдет, конечно, и условное подкрепление). Когда мы отгадываем кроссворд или составляем картинку-загадку, мы получаем подкрепления за правильные догадки, так как только они являются “подходящими”. Если бы при составлении картинки-загадки можно было вставить в одну ячейку несколько кусочков, то положительного подкрепления за правильный выбор, который является обязательной обратной связью в любой ситуации выбора, не получалось бы.

Долговременные программы поведения

В дополнение к вариативному режиму подкреплений можно ввести и закрепленный, при котором субъект знает, что он должен работать определенное время или выполнить определенный комплекс поведенческих реакций за каждое подкрепление. Например, подкрепляя каждый шестой прыжок, можно сделать так, что дельфин будет прыгать шесть раз подряд, и вскоре получим стабильные серии из шести прыжков. Трудность работы с фиксированным режимом подкрепления состоит в том, что первые ответы в сериях не подкрепляются и возникает тенденция к уменьшению затрачиваемых на них усилий. У прыгающего дельфина со временем все прыжки, кроме последнего, который действительно подкрепляется, уменьшаются. Это отрицательное влияние фиксированного режима подкреплений является важным фактором во многих видах человеческой деятельности — например на заводском конвейере. Чтобы получить подкрепление, необходимо работать в течение определенного времени, но так как подкрепление дается в фиксированном режиме, независимо от качества выполнения, человек совершенно естественно стремится делать то наименьшее количество работы, которое позволяет не выпасть из игры, особенно низкая производительность может быть в начальный период работы. Зарплата по пятницам является фиксированным подкреплением, делающим понедельник тяжелым днем. У дельфинов поддержать поведение поможет случайное подкрепление, первого или второго прыжка, помимо шестого. У людей могут быть эффективны различные виды прогрессивных оплат или других подкреплений (например, награды), тесно связанные с качеством и количеством продукции и выдаваемые неодновременно с обычным подкреплением.

Применяя либо фиксированный, либо вариативный режимы подкрепления можно оттренировать чрезвычайно длинные цепи поведенческих реакций. Можно добиться того, что цыпленок будет клевать кнопку сто и более раз за каждое зернышко пшеницы. Для людей также можно привести много примеров отставленного вознаграждения. Один психолог шутит, что самым длительным режимом неподкрепляемого поведения в человеческой жизни является учеба в школе.

При режимах подкрепления с чрезвычайно длительными интервалами иногда создаются ситуации, которые не приносят организму полезного результата. Для цыпленка это определяется обменными процессами: когда на клевание кнопки он начинает тратить больше энергии, чем может восстановить при получении пшеничного зерна, поведение начинает угасать — цена работы падает так низко, что ее просто становится незачем делать. Конечно, так часто бывает и с людьми.

Другое явление, встречающееся при очень длительных интервалах между подкреплениями, — замедленный старт. Начав клевать, цыпленок совершает эти действия с постоянной частотой, так как каждый удар приближает его к подкреплению, но было отмечено, что по мере того, как увеличиваются интервалы между подкреплениями, он стремится “отложить” начало реакции на более длительный срок. Это и .называется “отсроченное начало поведения с долговременной программой” и очень распространено в жизни людей. В любой долгосрочной задаче, начиная с уплаты подоходного налога и кончая уборкой гаража, можно придумать бесконечное количество причин для того, чтобы не начать дело безотлагательно. Написание чего-либо, иногда даже просто письма, тоже поведение с долгосрочной программой. Когда оно уже начато, все идет прекрасно. Но так трудно заставить себя сесть и начать! Феномен отстроченного начала.

Один из способов преодоления феномена отсроченного начала заключается в том, чтобы вводить какое-либо подкрепление именно за старт. Я успешно применяла этот прием и в самовоспитании. В течение нескольких лет один или два раза в неделю я посещала вечерние занятия, что требовало много времени — три часа занятий и по часу на дорогу в один конец. Каждый раз, когда приближалось 5 часов, появлялось сильнейшее искушение не ездить. Но потом я обнаружила, что, если я разобью поездку — первую часть дела — на пять этапов: путь до станции метро, посадка в поезд, пересадка на другой, автобус до университета и,, наконец, восхождение по лестнице до аудитории, и подкреплю каждое из этих начальных поведений после его выполнения маленьким кусочком шоколада, который я очень люблю, но обычно не ем, я стала способна вытащить себя из дома, а через несколько недель была в состоянии проделать весь путь на занятия без шоколада и без внутренней борьбы.

Суеверия: случайные подкрепления

В реальной жизни подкрепления возникают на каждом шагу и часто представляют собой лишь случайное стечение обстоятельств. Один биолог, изучавший ястребов, заметил, что если ястреб поймал под каким-либо кустом мышь, то в течение недели, а иногда и больше, он будет ежедневно проверять этот куст; вероятность его полета именно над этим местом обусловлена силой подкрепления. Попробуйте пройти мимо мусорной корзины, тщательно к ней не приглядываясь, если накануне нашли в ней пять долларов.

Случайное подкрепление полезно для, ястреба; вообще можно сказать, что поведение животных эволюционировало так, что каждый вид обладает возможностью извлекать пользу из любого подкрепления. Однако многие случайные подкрепления не сопровождаются полезным результатом, но тем не менее могут оказать сильное влияние на поведение. Когда поведение не связано с последующими событиями, но в мозгу субъекта связывается с ними в качестве необходимого условия их осуществления, говорят о суеверном поведении. Пример этого — человек, грызущий карандаш. Если во время экзамена вам случится взять в рот карандаш и тут же вам придет в голову правильный ответ или хорошая мысль, то такое подкрепление может изменить ваше поведение: хорошие мысли пришли, когда грыз карандаш,. таким образом, это действие подкрепляется. Когда я училась в колледже, у меня не было ни одного карандаша, не покрытого отметинами от зубов, — на особенно трудных экзаменах я иногда перегрызла карандаш пополам. Я была уверена, что это помогало мне думать. В действительности же это было всего лишь случайно обусловленное поведение.

То же самое можно сказать о ношении определенной одежды или совершении некого ритуала перед тем как взяться за какое-либо -цело. Я видела одного бейсболиста, который совершал девятичленную цепочку действий каждый раз, когда готовился подать мяч: дотрагивался до кепки, касался мячом перчатки, сдвигал кепку вперед, тер ухо, сдвигал кепку назад, шаркал ногой и т.д. В трудные моменты он мог повторить все девять действий дважды, никогда не нарушая их порядок. Эта последовательность действий совершалась очень быстро, комментаторы никогда не останавливались на ней — но тем не менее она представляет собой сложное суеверное поведение.

Поэтому гораздо лучше, как только поведение начинает формироваться, начинать разнообразить варианты условий, которые не представляются вам важными, чтобы не возникло какого-либо случайного обусловливания, которое впоследствии будет вам мешать.

Более всего следите, чтобы не образовывались случайные временные связи. Как животное, так и люди очень хорошо чувствуют временные интервалы. 

Интересно, что суеверное поведение не исчезает, если вы просто указываете на его неэффективность; будучи очень сильно заученным, оно соответственно сильно оберегается. Попробуйте поговорить с врачом 6 его привычке использовать неэффективное или даже вредное лечение, и вы получите отпор в соответствующих выражениях; я уверена,, что и тот бейсболист с девятиступенчатьм суеверным выражением нервного возбуждения будет яростно противиться всякому, кто предложит ему играть в мяч, скажем, без кепки, до которой он четырежды дотрагивается.

Единственный способ избавиться от суеверного поведения — это убедиться, что оно не связано с подкреплением. 

Чего можно добиться с помощью положительного подкрепления

Новый администратор одного грозного босса прикинул, что из его работы может являться подкреплением для босса — например принесение бумаг на подпись, — и старался как можно чаще приурочить это дело ко времени, когда босс не был в ярости. Босс стал спокойнее и, подписывая бумаги, стал даже отпускать шутки.

Организованное подкрепление

Чтобы групповое поведение стало подкреплением, 250 человек, составлявших группу, просили аплодировать каждому выступавшему независимо от того, понравилась ли им речь иди нет. Таким образом, с самого начала застенчивые были ободрены, смелые вознаграждены, и все выступления, как проникновенные, так и бессодержательные получили признание группы.

Поначалу аплодисменты были не более чем обязанностью. Но скоро они стали действительно коммуникативным средством, выражающим не степень удовольствия, как в театре, а оттенки чувств и значений. Например, в нашей группе, а я полагаю, что такое бывает в каждой подобной группе, был заядлый спорщик, который часто подвергал сомнению то, что говорил тренер. Когда это произошло в третий или четвертый раз, тренер вступил с ним в спор. Всем было ясно, что с точки зрения логики любитель споров на этот раз был в общем-то прав. Но поскольку спор тянулся и тянулся, всем остальным в аудитории было все равно, кто прав. Все 249 человек желали только одного: чтобы он замолчал и сел на место.

Правила игры, то есть формирующие правила, не позволяли нам протестовать или сказать ему, чтобы он замолчал. Но постепенно всеобщее молчание дошло до его сознания. Мы видели, что он начинает понимать, что никому нет дела до того, что он прав. Может быть, н& всегда надо доказывать свою правоту. Мало-помалу он погрузился в молчание и сел. Группа немедленно разразилась целой бурей аплодисментов, выражавших сочувствие и понимание наряду с сердечным облегчением — очень мощное положительное подкрепление озарения, которое пришло к спорщику.

Случаи обучения такого типа, в которых важную роль играют поведенческие аспекты, а не словесное выражение, безумно трудно объяснить постороннему. Эрхард, подобно учителю дзен, часто прибегает к афоризмам; в случае описанного выше спорщика говорится так: “Когда ты прав, с тебя требуется только одно — быть правым”. Это значит, что не обязательно нравиться или вызывать другие приятные чувства: только быть правым. Если бы мне пришлось привести этот афоризм на вечеринке, на которой кто-нибудь распинается, человек, окончивший курсы, посмеялся бы, да и любой хороший современный тренер посмеялся бы, но большинство присутствующих решило бы, что я не в своем уме или пьяна. Озарение при тренировке не требует словесного выражения.

Что такое процесс выработки

Процесс выработки возможен потому, что поведение живых существ вариабельно. Что бы живое существо ни делало, в одних случаях оно выполняет это более энергично, чем обычно, а в других случаях — наоборот. Неважно, сколь сложно и трудно то окончательное поведение, которое вы хотите выработать, вы всегда можете, установить ряд последовательных целей, найти какое-либо поведение, которое осуществляется уже сейчас, и использовать его как первый шаг. Мы все хорошо знакомы с выработкой поведения, являясь участниками или объектами этого процесса. Попросту говоря, большая часть воспитания ребенка — процесс выработки поведения. Обучение различным физическим навыкам — от тенниса до печатанья на машинке — представляет из себя в основном выработку поведения. Мы находимся в процессе выработки или, по крайней мере, стараемся что-либо выработать всякий раз, когда упражняемся в чем-либо, начиная от публичного выступления, кончая игрой на фортепьяно. Мы находимся в процессе выработки и тогда, когда пытаемся изменить свое поведение — бросить курить, быть менее застенчивым, лучше распоряжаться деньгами. 

Хорошо спланированная программа выработки может свести до минимума необходимую тренировку и сделать значимым каждый момент практических занятий тем самым чрезвычайно ускоряя совершенствование И наконец, в спорте, музыке и других творческих устремлениях вы можете захотеть развить не только стабильное выполнение навыка, но и выполнение на том наивысшем уровне, который доступен вам или тому, кого вы обучаете В этом случае правильное использование законов направленной выработки может быть решающим.

Способы и приемы или закономерности

Есть два аспекта выработки: первый способ и приемы, то есть последовательность шагов, необходимых для выработки типа поведения, и второй — закономерности или правила, предписывающие, как, когда и почему эти типы поведения должны подкрепляться

Большинство тренеров, большинство книг о тренировке и большинство тех, кто обучает тренеров, имеет дело почти исключительно со способом или приемом. “Возьмите в руки клюшку для гольфа как показано на рисунке”, “Подведите прицел винтовки под нужное место мишени”, “Никогда не наклоняйтесь в горах”, “Взбивайте яйца металлическим венчиком по часовой стрелке” Это прекрасно. Эти приемы обычно складываются годами при участии многих людей, путем проб и ошибок, и поэтому они оптимальны. В самом деле вы будете более уверенно сидеть на лошади, если пятки у вас опущены, а мяч для гольфа будет послан вами дальше, если вы хорошенько отклонитесь в сторону замаха. Если вы заинтересованы в том, чтобы овладеть каким-либо навыком, я могу вас уверить, что вы извлечете максимум возможного от устоявшихся приемов выполнения действий, которые включаются в данный навык, почерпнув это из книг, от преподавателей, инструкторов и наблюдая или изучая действия других людей

Другую сторону выработки составляют закономерности, которые регулируют сам процесс обучения: когда надо поднажать, когда подослабить обучение; как наиболее эффективно повышать критерии, что делать, если возникли затруднения, и, вероятно, самое главное — когда остановиться. В этих вопросах обычно полагаются на интуицию и опыт тренеров или инструкторов, на случай иди удачу. Между тем именно успешность применения этих закономерностей определяет разницу между просто хорошим и великим преподавателями, между радостным, быстрым и успешным обучением и обучением, приводящим к срывам, медленным, скучным и неприятным. Хороший процесс выработки, а не только хорошие приемы, делают обучение эффективным.

Десять правил выработки

1. Повышайте критерий небольшими градациями, чтобы у субъекта, всегда была реальная возможность выполнить требуемое и получить подкрепление.

2. В конкретный промежуток времени отрабатывайте что-нибудь одно, не пытайтесь формировать поведение по двум критериям одновременно.

3. Прежде чем увеличивать или повышать критерий, пользуйтесь подкреплением текущего уровня ответа, т.е. подкрепляйте любое исполнение данного действия, имеющегося в данный момент.

4. Вводя новый критерий, временно ослабьте старые.

5. Будьте впереди того, кого вы обучаете: полностью планируйте свою программу выработки так, чтобы в случае внезапного успеха обучаемого, вы знали, что следует подкреплять далее.

6. Не меняйте тренеров на “середине реки”; у вас может быть несколько инструкторов на одного обучающегося, но придерживайтесь одной программы выработки на каждый из типов поведения.

7. Если одна процедура выработки не приносит успеха, найдите другую, существует столько же способов добиться нужного поведения, сколько инструкторов, способных их придумать.

8. Не кончайте тренировку, не дав положительного подкрепления, это соответствует наказанию.

9. Если навык ухудшается, “возвратитесь к детскому саду”, быстро повторите весь процесс выработки с серией легких подкреплений.

10. Оканчивайте, по возможности, каждую тренировку на высокой ноте и в любом случае останавливайтесь, оставаясь впереди обучаемого.

Особые ученики

Можно формировать поведение почти любого существа. Психологи обучали крошечных детей движением руки гасить и зажигать свет в комнате. Можно обучать птиц. Можно формировать поведение рыб. Однажды я обучала большого краба-отшельника звонить в колокольчик, собирающий к обеду, дергая клешней за шнурок. (Фокус заключался в том, чтобы дать крабу пищу в тот момент, когда клешня, двигающаяся бесцельно, коснется шнурка. Я пользовалась длинным анатомическим пинцетом, чтобы подносить кусочки креветки прямо к его челюстям.) Профессор Гарвардского университета Рихард Хернетейн рассказывал, что однажды он обучал морского гребешка хлопать раковиной за пищевое вознаграждение. Дрессировщики морских млекопитающих любят хвастаться что они могут обучить любое животное выполнить любое действие, для которого у него имеются физические и умственные возможности, и насколько мне известно, это так и есть.

А как насчет того, чтобы формировать свое поведение? Существуют всевозможные программы изменения собственного поведения: бросаем курить, следим за своим весом и т.д. Большинство этих программ опирается в основном на метод формирования поведения, обычно называемый модификациями поведения, они могут быть или не быть успешными. Трудность, как мне кажется, состоит в том, что вы должны сами себе давать подкрепление. Но когда вы подкрепляете сами себя, исчезает элемент неожиданности — ученик всегда знает, чего стоит тренер. При этом очень просто сказать: “Черт с ней, с еще одной звездочкой в моей карточке, я лучше выкурю сигарету”.

Я обнаружила, что единственным наиболее успешным приемом самоподкрепления является постоянная регистрация результатов, которая может быть использована во всех четырех программах. Нужно было вести регистрацию так, чтобы улучшение было видно сразу. Я использовала графики. С их помощью моя виновность за упущения могла уменьшаться при взгляде на график, на котором было видно, что несмотря ни на что я сейчас нахожусь на более высоком уровне, чем шесть месяцев тому назад. Еще, может быть, далеко до совершенства, но “кривая”, или наклонная линия, графика шла в нужном направлении, и это является зримым доказательством улучшения; и хотя это само по себе является слабым, медленно действующим подкреплением, оно создает достаточную мотивацию, чтобы продолжать мои занятия.

Выработка поведения без помощи слов

В обычных ситуациях обучения, таких, как уроки тенниса, субъект знает, что ее или его обучают, и обычно охотно включается в этот процесс. Поэтому вам не обязательно дожидаться нужной реакции и подкреплять ее. Вы можете без особого вреда словами направлять поведение: “Делай так. Хорошо. Теперь повтори дважды. Хорошо”. Однако в нестандартных ситуациях лучше обойтись без инструкций и (словесных) обсуждений. Вы должны наметить план выработки, начальный и промежуточные ходы, при помощи которых вы достигнете желаемой цели. 

В использовании процесса формирования существуют две ловушки. Первая состоит в том, что легче заметить ошибки, чем улучшение, и поэтому для таких вербальных существ, каковыми являемся мы, гораздо проще негодовать, когда критерий не достигнут, чем давать подкрепление, когда он достигнут. И это может свести на нет прогресс. Вторая опасность состоит в том, что если вы предполагаете сформировать чье-либо поведение, то очень заманчиво поболтать об этом. А такие разговоры могут все разрушить. Если вы говорите: “Ты получишь награду” — за то, что положил белье в корзину, не куришь марихуану, тратишь меньше денег или за что-либо другое, — вы лишь совершаете подкуп или даете обещание, а не истинное подкрепление; при обучении, идущем по вашему плану, человек может иногда ему противиться и нарочно поступать не так как нужно. Чтобы добиться результатов, надо осуществлять формирование поведения, а не говорить о нем.

А если вам удалось сформировать чье-либо поведение, то в дальнейшем также лучше этим не хвастаться. Некоторые этого совершенно не понимают и постоянно подчеркивают свою роль — в лучшем случае это проявляется в опеке, а это лучший способ нажить себе в лице субъекта врага на всю жизнь. Кроме того, если вы помогли кому-то улучшить какой-либо навык или избавиться от плохой привычки, меняя в качестве подкрепления собственное поведение, на кого падает основная тяжесть работы? На субъекта. Умные родители никогда не раззванивают повсюду о том благе, которое они совершили, воспитывая своих детей. Во-первых, мы все знаем, что эта работа никогда не кончается, а во-вторых, дети заслуживают похвалы — хотя бы за то, что выдерживают все педагогические ошибки, которые мы совершаем.

Так как формирование поведения людей может или даже должно происходить в несловесной форме, то некоторые воспринимают это как своего рода злонамеренные манипуляции. Мне кажется, что это не от недопонимания. Причина того, что формирование должно быть невербальным, состоит в том, что мы имеем дело с поведением, а не с идеями, И не только с чьим-нибудь поведением, но и со своим собственным.

Однако поскольку вы можете формировать поведение людей без того, чтобы то, что вы делаете, доходило до их сознания, и поскольку, не имея формального согласия на то, чтобы быть обученным, как это бывает при уроках игры в теннис, вы едва ли не обязаны формировать людское поведение на невербальном уровне, то не возникает ли возможность заставлять людей совершать ужасные вещи?

Конечно, да, особенно если вы в качестве отрицательного подкрепления используете такие резко неприятные стимулы, которые вызывают истинный страх и даже ужас. В лабораторных условиях психологи обнаружили феномен названный “выученная беспомощность”. Если животное обучено избегать неприятного стимула, такого как удар электрического тока, при помощи нажима на рычаг или перемещения в другую часть клетки, где нет абсолютно никаких способов избежать удара тока, оно постепенно прекращает все попытки отделаться от неприятности. Оно становится полностью податливым и пассивным, и может даже лежать и получать наказания даже тогда, когда снова появляется путь к свободе. Аналогом этого феномена у людей возможно является “промывание мозгов” Если человек подвергается строгой изоляции и неизбывному страху или боли, и если неприятные стимулы в последующем используются в качестве отрицательного подкрепления, то в тех случаях, когда человек может избегнуть или прекратить их действие, изменив поведение, — ну, тогда... животные обычно погибают, а люди оказываются более стойкими, и некоторые начинают делать все что угодно, чтоб избежать отрицательного подкрепления.

Стимулы

Все, что вызывает какую-либо поведенческую реакцию, называется стимулом. Некоторые стимулы способны вызывать реакции без какого-либо обучения или тренировки: мы вздрагиваем от громкого звука, моргаем от яркого света, нас тянет в кухню, когда до нас доносится аппетитный запах; животные поступают точно так же. Такие звуки, свет и запахи называются безусловными, или первичными, стимулами.

Другие стимулы заучиваются благодаря ассоциации. Сами по себе они могут ничего не значить, но становятся выделяемыми сигналами для поведения: сигналы светофора заставляют нас стоять или идти, мы вскакиваем, чтобы снять трубку зазвонившего телефона, на шумной улице оборачиваемся, услышав свое имя и т.д., и т.д. Ежедневно мы отвечаем на множество выученных сигналов. Они называются условными, или вторичными, стимулами.

При формальном тренинге львиная доля усилий приходится на образование условных сигналов. Сержант, занимающийся строевой подготовкой со взводом новобранцев, и хозяин собаки на дрессировочной площадке в равной мере стремятся сделать в основном так, чтобы обучающиеся повиновались командам, которые в действительности являются условными сигналами. Фокус не в том, что собака может сидеть, а человек останавливаться, фокус в том, что это делается четко и по команде. Вот что мы называем повиновением — не просто выполнение действия, но гарантия того, что оно будет выполнено по сигналу. Психологи называют это “поставить поведение под контроль стимулов”. Это вырабатывается с трудом, выработка основывается на правилах, а правила нуждаются в проверке.

Если вы руководите людьми и вам иногда приходится два или три раза повторять приказ или инструкцию, прежде чем они будут выполнены, то значит у вас проблемы со стимульным контролем. Разве не случается, что вы говорите: “Я тебе уже однажды сказала, я говорила тебе тысячу раз, не...” (Не хлопай дверью, или не клади мокрый купальник на кровать, или что-либо в этом роде.) Когда сказать один или тысячу раз недостаточно, поведение не управляется стимулами.

Иногда может казаться, что мы обладаем стимульным контролем, когда в действительности этого нет. Мы предполагаем, что сигналу или команде должны подчиниться, а этого не происходит. Самой распространенной реакцией на это является усиление сигнала. Так, официант не понимает вашего французского? Говорите громче. Чаще всего это не помогает. Субъект должен распознавать сигнал, иначе безразлично, кричите ли вы что есть мочи или даже ревете с помощью усилительной аппаратуры рок-ансамбля, на вас будут смотреть невидящим взором.

Другой реакцией человека на игнорирование условного сигнала является бешенство, которое действует только в том случае, если субъект проявляет преднамеренное непослушание, не давая твердо заученного ответа на хорошо выученный сигнал. При этом иногда, показав характер, можно получить хорошее поведение.

Бывает, что субъект отвечает правильно, но с очень большой задержкой или через пень-колоду. Часто неуклюжие ответы на команды определяются тем, что субъект не обучен отвечать быстро. Без положительного подкрепления не только за правильный, но и за проворный ответ на сигнал у субъекта нет шансов усвоить, что успех приносит быстрое повиновение стимулам. При этом поведение в действительности не контролируется стимулами.

Реальная жизнь” изобилует плохой организацией управления с помощью стимулов. Как только один человек пытается проявить власть, другой оказывается в опасности проявить “непослушание” В действительности проблема состоит в непонимании команд или сигналов, которым он поэтому не может повиноваться. Это примеры плохой коммуникации или нечеткого управления с. Помощью стимулов.

Правила управления с помощью стимулов

Для того, чтобы управлять с помощью сигналов, надо сформировать нужное поведение, а затем, когда оно осуществляется, делать так, чтобы оно происходило во время или сразу после какого-либо определенного сигнала. Этот стимул затем становится ключом, или сигналом, поведения.

Полный контроль с помощью стимулов определяется четырьмя условиями, к каждому из которых следует относиться как к самостоятельному разделу тренировочной задачи, самостоятельному пункту программы выработки:

1. Поведение всегда осуществляется сразу после подачи условного стимула (собака ладится, когда ей приказывают).

2. Поведение никогда не возникает в отсутствие стимула (во время занятий или работы собака никогда не садится спонтанно).

3. Поведение никогда не наблюдается в ответ на другие стимулы (если вы говорите: “Лежать!”, собака не должна садиться).

4. Никакое другое поведение не возникает в ответ на данный стимул (когда вы говорите; “Сидеть!” собака не должна ложиться или скакать и лизать ваше лицо)

Только когда все четыре условия соблюдаются, собака действительно полностью и окончательно понимает команду “Сидеть!”. Теперь вы действительно управляете ею с помощью стимула.

Жизненно важно сигнальное управление в военном деле. Занятия по строевой подготовке с новобранцами — утомительное и трудоемкое дело, и им самим оно может казаться трудным и бессмысленным, но оно выполняет очень важную функцию. Строевая подготовка не только вырабатывает точные реакции на строевые команды, что дает возможность командирам с легкостью приводить в движение большие группы людей, но она также вырабатывает навык ответа на условный сигнал вообще: повиновение команде, которое в конце концов является не столько умственным актом, сколько выученным умением, являющимся решающим, а часто и жизненно важным для солдата. С тех пор как были придуманы армии, строевая подготовка являлась способом выработки этого навыка.

Что может быть сигналом?

Условным стимулом — выученным сигналом может быть все, абсолютно все, что может быть воспринято. Флаги, свет, слова, прикосновения, вибрация, хлопки пробок шампанского — короче говоря, безразлично, какой сигнал вы использует те Коль скоро субъект может воспринимать его, сигнал может быть использован для вызова выученного поведения.

В то время, как на каждый отдельный сигнал вам надо получать только какое-либо одно поведение, вполне достижимо получение одного и того же поведения на несколько условных сигналов. Например, в переполненном людьми помещении оратор может потребовать тишины, воскликнув: “Тихо!”, или встать и, подняв руку, жестом призвать к молчанию. А если присутствующие шумят и при этом находятся в некотором подпитии и, следовательно, отличаются рассеянным вниманием, поможет позвякивание ложкой по стакану. Мы все обучены осуществлять данное поведение в ответ на любой из, по крайней мере, трех этих стимулов.

Введение второго условного стимула для выученного поведения называется переносом стимулов. Чтобы добиться переноса, вы предъявляете старый стимул — допустим, команду, поданную голосом, — как всегда, и новую команду — скажем, сигнал, поданный рукой, — и подкрепляете ответ; затем постепенно делаете старый стимул все менее и менее заметным и одновременно привлекаете внимание к новому, делая его очень выраженным, пока на новый стимул не будете получать столь же хороший ответ, даже тогда, когда старый стимул не предъявляется вовсе. Обычно этот процесс идет несколько быстрее, чем выработка ответа на первоначальный стимул; когда уже выработано “Выполняй это действие” и “Выполняй это действие по команде”, то легче выработать “Выполняй это действие также по другой команде”.

Время отставания

Чтобы добиться точности, ответа на условный стимул, полезно применять прием ограничения времени отставания. Допустим, ваш подопечный обучился совершать какое-либо действие в ответ на условный сигнал, но обычно имеется некоторый интервал времени между предъявлением стимула и ответом субъекта. Вы пригласили людей на ужин, и они немого запоздали, или ваш слон после сигнала к остановке постепенно замедляет ход и, наконец, останавливается.

Если вы хотите, то, используя ограничение времени отставания, можете в процессе тренировки так сократить этот интервал, что поведение будет возникать так быстро, как это только физически возможно.

Вы начинаете с того, что устанавливаете нормативный интервал, с которым обычно наблюдается поведение; затем вы подкрепляете только то поведение, которое совершается в течение этого интервала. Поскольку живые существа характеризуются вариабельностью, некоторые ответы будут выходить за пределы интервала и за них не будет даваться подкрепление. Например, если вы подаете ужин точно в назначенное в приглашении время, а не ждете опоздавших, то они рискуют получить все холодное или застать меньший выбор,

Когда вы подобным образом установите временной интервал и будете давать подкрепление только на его протяжении, то скоро вы обнаружите, что постепенно все ответы начинают наблюдаться в его пределах и ни один не выходит за него. Теперь вы снова можете подтянуть гайки. Достаточно ли пятнадцати минут, чтобы семья собралась? Начните подавать на стол через двенадцать минут после того, как всех позвали, или через десять. Как быстро вы будете закручивать гайки, должно быть точно определено; как и при каждом процессе выработки желательно находиться в тех пределах, в которых наиболее часто наблюдается данное поведение.

Животные и люди имеют очень развитое чувство времени и чрезвычайно четко реагируют на выработку времени отставания, но дрессировщик не должен полагаться на авось. Пользуясь часами или даже секундомером, если хотите, чтобы выработка отставания работала на вас. Для поведения ближайших окружающих, включая себя, сократите время ответа, скажем, с пяти тактов до двух. И конечно, если вы работаете с людьми, не обсуждайте ваши действия; вы не получите ничего, кроме возражений. Просто делайте и смотрите, что получается.

В реальной жизни ограничение времени отставания является попросту тем временем, которое вы считаете нужным ждать, пока просьба или инструкция будут выполнены. Родителей, начальников и учителей, которые проявляют последовательность в выработке определенного временного интервала реакции, обычно считают хорошими.

Стимулы в качестве подкрепления: поведенческие цепи

Как только стимул становится условным сигналом, происходит интересная вещь: он превращается в подкрепление. Вспомните звонок на перемену в школе. Звонок на перемену является сигналом, условным сигналом, означающим: “Вы свободны, идите и играйте”. А кроме того, он воспринимается как подкрепление — дети рады, когда слышат его, и если бы они смогли сделать что-либо, чтоб заставить его прозвенеть скорее, они бы это сделали. Теперь представьте себе звонок на перемену, который не звонит, если в классе нет тишины. Ко времени перемены у вас будет очень тихий класс.

Поведенческие цепи — очень распространенное явление. В реальной жизни мы часто производим серии связанных действий, состоящих из многих отдельных поведенческих актов. Не надо далеко ходить за примерами — работа плотника или уборка квартиры — неплохая иллюстрация. Мы ожидаем, что и наши питомцы будут вести себя так же: “Подойди”, “Сядь”, “Ляг”, “Следуй за мной” и так далее без перерыва я без видимого подкрепления. Эти длительные ряды действий являются цепным поведением. В противоположность другим длительным действиям эти могут выполняться часами, сотни раз без напряжения, без сбоев, без задержек, поскольку каждый акт в действительности подкрепляется возможностью выполнить следующее действие цепочки, и так до заключительного подкрепления выполнением всего дела, всей цепи.

Однако поведенческие цепи рвутся и поведение рассыпается на элементы, если в цепочку вклинивается невыученный поведенческий акт, или действие, не находящееся под контролем стимулов. Вы не можете подкрепить субъекта сигналом, если он этот сигнал не распознает или не может выполнить то, что этот сигнал требует. Отсюда следует, что цепное поведение следует всегда вырабатывать с конца. Начинайте с последнего действия в цепи, удостоверьтесь, что оно усвоено, и сигнал к его выполнению хорошо узнается, лишь потом переходите к разучиванию предпоследнего действия и т.д. Например, если при заучивании стихотворения, мелодии, текста речи, роли в пьесе вы разделите задания, скажем, на пять частей и начнете запоминать их в обратном порядке, с конца — вы всегда будете двигаться от того, что вы знаете слабее, к тому, что знаете более прочно, от материала, в котором вы не совсем уверены, к материалу, хорошо уже усвоенному, имеющему подкрепляющее действие. Запоминание материала в том порядке как он написан и должен воспроизводиться приводит к необходимости постоянно продираться от знакомой тропы в сторону более трудного и неизвестного, что является неподкреплением. Подход к запоминанию материала как к цепному поведению не только убыстряет процесс запоминания, но и делает его более приятным.

Поведенческие цепи — это особое понятие. Я часто сама спотыкалась на них, чувствуя, что надо вернуться к концу ряда, так как я не могу заставить животное, ребенка или себя выполнить кажущуюся простой последовательность действий, пока я не понимала, что пыталась выработать цепное поведение не с того конца. Когда делают пирог, то глазурью его украшают в последнюю очередь, но если вы хотите обучить ребенка получать удовольствие от приготовления пирога, начните с того, что попросите “помочь” украсить его глазурью.

Генерализованное управление с помощью стимулов

С большинством животных приходится сначала немного повозиться, чтобы установить управление их поведением с помощью стимулов, но часто к тому времени, как берете под контроль сигналов третий или четвертый тип поведения, оказывается, что животное как бы обобщает, у него появляется нечто вроде понимания идеи. Выучив три-четыре условных поведенческих акта, большинство субъектов, по-видимому, начинают распознавать определенные события в качестве сигналов, каждый из которых означает свой тип поведения, и что получение подкрепления зависит от правильного распознавания и ответа на сигналы. С этого момента введение условных сигналов становится простым. У субъекта уже имеется общая картина, и все что ему надлежит сделать — это научиться классифицировать новые сигналы и ассоциировать их с правильным поведением. Если вы, как дрессировщик, поможете питомцу, сделав это понятным, последующее обучение может идти само собой много быстрее, чем трудные начальные шаги.

У людей обобщение происходит еще быстрее. Если вы вознаградили за ответ только на одну выученную команду, люди очень скоро начинают давать ответы и на другие команды, чтобы заслужить подкрепление. 

Итак, вы знаете о том, как сформировать новое поведение, а как вам избавиться от нежелательного поведения, которое уже имеется?

Существует восемь способов избавиться от нежелательного вида поведения. Всего восемь. И не важно, является ли это поведение укоренившимся, как в случае неряшливого соседа по комнате, или внезапным, как в случае детей, бесчинствующих в машине. Все, что вы можете предпринять по этим поводам, будет вариацией на тему одного из восьми методов. (Я не касаюсь здесь сложных сочетаний поведенческих проблем, которые возникают у человека с психическими нарушениями или у непредсказуемо свирепой собаки; я рассматриваю только отдельные проявления нежелательного поведения.)

Вот эти восемь методов.

Метод 1. “Убить зверя”. Это безусловно подействует. Вам никогда больше не придется снова иметь дело с данным поведением у данного субъекта.

Метод 2. Наказание. (Предпочитаемо всеми, хотя оно почти никогда не приносит действительной пользы.)

Метод 3. Отрицательное подкрепление.

Метод 4. Угашение: поведению предоставляется возможность исчезнуть самому по себе.

Метод 5. Выработка несовместимого поведения. (Этот метод имеет особую значимость для спортсменов и владельцев домашних животных.)

Метод 6. Добиться, чтобы данное поведение совершалось по сигналу. (В последующем вы перестанете давать этот сигнал. Это наиболее изощренный метод, применяемый тренерами дельфинов для того, чтобы избавиться от нежелательного поведения.)

Метод 7. “Формирование отсутствия”: подкрепляется все что угодно, кроме нежелательного поведения. (Вежливый способ превратить неприятных родственников в приятных.)

Метод 8. Смена мотивации. (Это основной и самый лучший способ.)

Подкрепление в повседневной жизни

Подкрепление в бизнесе

В нашей стране труд и управление традиционно стояли на противоположных позициях. Мысль о том, что все принимают участие в общей игре, никогда не была особенно популярна в американском бизнесе. Практика бизнеса исходила из того, что каждая из сторон старается получить от другой как можно больше, а дать как можно меньше. Конечно, на самом деле это молчаливо подразумевалось исходными позициями обучения, но некоторые администрации склонялись к другим подходам. В шестидесятые годы получили популярность “бережное обучение” и другие социально-психологические подходы, ставившие целью просветить администрацию по вопросам нужд и чувств сотрудников и служащих. Но можно быть сколь угодно хорошо осведомленным, но не знать при этом, как же решать каждую конкретную проблему. Положение в бизнесе таково, что одни занимают более высокое, другие более низкое положение, одни получают распоряжение, другие их отдают. В США ситуация в большинстве случаев не напоминает семейную и не должна был, таковой. Поэтому семейственный тип разрешения межличностных конфликтов на работе не проходит.

Среди последних публикаций о бизнесе меня в последнее время заинтересовали несколько сообщений, где описаны наиболее эффективные подходы, где используется подкрепление — от наиболее простых до совершенно блестящих. Например, один из консультантов по менеджменту советует в случае, если необходимо временно освободить от работы часть персонала, определить 10% худших и 20% лучших работников. Вы освобождаете самых слабых работников, но вы так же должны обязательно обеспечить 20% лучших, при этом они должны знать, что их оставляют потому, что они прекрасно работают. Очень здравая мысль. Помимо того, что вы убережете своих лучших работников от нескольких бессонных ночей и очень существенно положительно их подкрепите при вызывающих тревогу обстоятельствах, вы к тому же побуждаете средних работников либо стремиться к подкреплению, которое, как они видят, получено лучшими, либо хотя бы не попасть в низшую группу — кандидатов на вылет.                                

Подкреплением для менеджеров среднего уровня и среднего возраста может быть более интересная работа на их теперешнем месте, вместо перспективы повышения — с более высокой ответственностью они могут и не справиться (а могут и не желать занять более высокий пост, особенно если это связано с переездом).

Одна компания, занимающаяся компьютерной техникой, выплачивает денежные премии некурящим и тем, кто бросил курить, и в этом есть большой смысл: продукция, которую они выпускают, может быть испорчена частицами дыма. Другие способы подкрепления, находящие все большее применение, включают свободный выбор часов работы, так называемую “гибкую систему” (к ней особенно стремятся работающие матери), работу в самоуправляемых коллективах и .вознаграждение за проделанную работу, а не за потраченное на нее время. Все эти приемы управления делают упор на то, что работник действительно считает подкрепляющим — то, что нужно людям, а не только дает прибыль.

Программы, нацеленные на снижение себестоимости и повышение темпа работы — программы, которые по существу пытаются заставить работников работать лучше — куда менее эффективны, чем проекты, которые помогают работникам выполнять дело лучше и получать за вознаграждение; Корпорации, пользующиеся положительным подкреплением, часто видят результаты, когда оказываются в критической ситуации. Великолепный пример — авиакомпания Дельта, которая всегда славилась заботой о своих служащих. Во время спада 1981 года несмотря на значительные убытки. Дельта отказалась сократить кого-либо из своих 37000 служащих. Фактически это привело к тому, что в целом по компании зарплата повысилась на 8%. В прочно установившемся климате положительного подкрепления работники привыкли мыслить в том же духе; они поменялись местами с администрацией и подкрепили компанию, создав фонд и купив новый самолет, Боинг-767 стоимостью 30 млн. долларов.

Подкрепление в обществе

Иногда создается впечатление, будто бы бихевиористы утверждают, что все поведение человека является результатом обучения и подкрепления, а все человеческие болезни, от войн до бородавок, можно исцелить правильным использованием подкрепления. Это, конечно, не так. Поведение является богатой смесью внешних и внутренних ответов, как выученных, так и невыученных. Как это известно каждой матери, индивидуальные особенности являются врожденными. Далее, громадная часть того, что мы делаем и чувствуем, является результатом нашей эволюции в качестве общественных животных. В это входит наше стремление к взаимодействию и взаимной поддержке (“реципрокный альтруизм”), а также наклонность к агрессивным реакциям, если кто-либо посягает на наши идеалы или собственность (“защита ореола”). А кроме того, то что делается или говорится в данный момент, может в значительной степени зависеть от физического состояния, оцениваемого либо согласно прошлому опыту, либо прогнозу на будущее: человек, который очень голоден или мерзнет, может вести себя совсем не так, как тогда, когда он находится в комфортных условиях, вне зависимости от других обстоятельств.

Поскольку общество не ограничивается только обменом подкреплений, социальные эксперименты, включающие подкрепление в регулировании групповых отношений, дают неоднозначные результаты. Например, использование подкрепления в структурированных группах — скажем в тюрьме, больнице или колонии, может провалиться по вине любого, использующего это подкрепление. Один из моих друзей-психологов рассказывал мне о системе поощрительных талонов для малолетних правонарушителей, которая прекрасно работала при экспериментальной проверке проекта, но полностью провалилась и даже вызвала протест и возмущение, когда была перенесена в другое учреждение. Выяснилось, что наставники, как и предусматривалось инструкцией, раздавали подкрепление за посещение уроков и другое желательное поведение, но, вручая талоны, они не улыбались. И эта маленькая ошибка была расценена (и я думаю, совершенно справедливо) юными правонарушителями как оскорбление, и все усилия пошли насмарку.

Общество, и особенно систему образования, часто критикуют за то, что они подавляют творческие способности, вместо того, чтобы развивать их. Я думаю, что, хотя такая критика и обоснована, но нужно понимать, что общество заинтересовано в сохранении Status quo. Инициативные люди непредсказуемы, и, возможно, общество может вытерпеть лишь определенный процент таких людей. Если бы все стали вести себя, как наши “творческие” дельфины, мы бы никогда ничего не достигли. Поэтому довольно часто индивидуальная нестандартность подавляется в угоду групповым стандартам норм поведения. Может быть, лишь смелость, необходимая для защиты таких устремлений, приводит некоторых из новаторов к успеху.

Я думаю, что важное значение теории подкрепления для общества состоит не в изменении отдельных видов поведения или реформировании учебных заведений, а в том влиянии, которое само по себе оказывает положительное подкрепление на отдельных индивидов. Подкрепление — это информация, информация о том, что то, что вы делаете, приводит к результату. Если у нас есть информация о том, как заставить окружающую среду подкреплять нас, значит, мы эту среду контролируем, и мы больше ей неподвластны. В самом деле от успешности этого до некоторой степени зависит наше приспособление к жизни, достигнутое в ходе эволюции.

Таким образом, индивидам нравится обучаться с помощью подкрепления не по тем причинам, которые лежат на поверхности — получение пищи или другого вознаграждения, а потому, что они в этом процессе действительно обретают некоторый контроль над происходящим. А причина того, что людям нравится изменять поведение других с помощью подкрепления, состоит в том, что ответная реакция доставляет удовольствие. Глядя на то, как радуются животные, как сияют глаза малышей, люди расцветают и начинают сиять — от радости, вызванной успешностью собственных усилий; этот положительный результат сам по себе является мощным подкреплением. Некоторых людей возможность получения хороших результатов захватывает полностью.

На уровне человеческих взаимоотношений правильное использование положительного подкрепления может дать существенный эффект. Оно может привести к развитию и усилению семейных взаимоотношений, укрепить дружбу, ободрить детей и обучить их в свою очередь превратиться в изобретательных и умелых источников подкрепления. Оно способствует искусству половых отношений, так как секс помимо всего прочего является взаимным обменом положительных подкреплений. Если двое достигли успехов во взаимном подкреплении, они скорее всего будут счастливой парой.

Хорошо использовать подкрепление — это не значит без разбору расточать награды или никогда не говорить “нет”. Такое неправильное представление о положительном подкреплении возникает довольно часто. Однажды, наблюдая за матерью, везущей по улице малыша в прогулочной коляске, я заметила, что всякий раз, как он начинал проявлять признаки беспокойства, мать останавливалась, вынимала мешочек со всякими вкусностями: виноградом, орехами — и совала малышу что-нибудь в рот, хотя он, видимо, не был голоден и иногда отпихивал ее руку. Стараясь поступать правильно, она добросовестно подкрепляла беспокойное поведение малыша. Она даже не проверяла, не является ли причиной беспокойства малыша непорядок в одежде или какой-либо другой дискомфорт.

Никто из нас не представляет собой совершенства, и я не считаю, что мы должны все время думать о подкреплениях. Я предполагаю, что во взаимоотношениях с другими людьми сдвиг к положительным реакциям от резкости, яростных споров и упреков, которые являются стилем многих домов и организаций, повлияет не только на индивидов, вовлеченных в эти контакты, но и распространится вовне, изменяя соотношение сил в обществе.

Процесс этого принятия может охватить жизнь одного, двух или трех поколений. Я подозреваю, что положительное подкрепление, будучи облечено в теорию, которая дает возможность анализировать причины неправильного хода событий, является той самой идеей, которая слишком заразительна для умов, чтобы ее развитие приостановилось. Я полагаю, что большинство бихевиористов со мной согласятся — хотя они, конечно, считают, что это произойдет совсем скоро.

Воображаемое общество Скиннера, построенное исключительно на различных типах подкрепления, не должно, с моей точки зрения, точки зрения биолога, функционировать. Идеалистические общества, существующие в воображении или в реальности, иногда не принимают в расчет или пытаются приуменьшить такие биологические явления, как конфликты. Мы являемся в конце концов общественными животными, и в качестве таковых должны устанавливать иерархию. Соперничество внутри группы за более высокий статус — по всем направлениям, а не только по санкционированным и предписанным — является абсолютно неизбежным и. фактически выполняет важную социальную функцию: будь то утопическое общество или табун лошадей, существование развитой иерархии направлено на сглаживание конфликтов. Ты знаешь свое место, и незачем продолжать рычать, доказывая его. Я предчувствую, что индивидуальный и групповой статус, как и многие другие человеческие потребности и тенденции, слишком сложны, чтобы их опровергать или отвергать с помощью спланированной системы подкрепления, по крайней мере в обозримом будущем.

Некоторые видят в теории подкрепления способ контроля, манипулирования или ограничение свободы личности или общества. Но изменения общества должны начинаться с изменения отдельных личностей — со сдвигов, которые принесут личную пользу — точно так же, как видовые изменения должны начинаться на уровне одного гена. Социальные изменения не могут быть навязаны сверху — по крайней мере навязаны надолго (произведение “1984 год” Оруэлла написано неверно с биологической точки зрения). Живые существа имеют право не только на пищу и убежище, но и на подкрепляющее окружение. Использование и понимание подкрепления является тем индивидуальным опытом, который может пойти всем на пользу. Совершенно не ограничивая нас, оно открывает дорогу для приобретения нового опыта, и будучи осознанным, усиливает не механические аспекты жизни, а богатство и удивительное разнообразие всего поведения.