Респондентное и оперантное поведение

При рассмотрении скиннеровского подхода к личности следует различать две разновидности поведения: респондентное и оперантное. Чтобы лучше понять принципы скиннеровского оперантного научения, мы сначала обсудим респондентное поведение.

Респондентное поведение подразумевает характерную реакцию, вызываемую известным стимулом, последний всегда предшествует первой во времени. Хорошо знакомые примеры — это сужение или расширение зрачка в ответ на световую стимуляцию, подергивание колена при ударе молоточком по коленному сухожилию и дрожь при холоде. В каждом из этих примеров взаимоотношение между стимулом (уменьшение световой стимуляции) и реакцией (расширение зрачка) невольное и спонтанное, это происходит всегда. Также респондентное поведение обычно влечет за собой рефлексы, включающие автономную нервную систему. Однако респондентному поведению можно и научить. Например, актриса, которая очень потеет и у которой «сосет под ложечкой» от страха перед выходом на публику, возможно, демонстрирует респондентное поведение. Для того, чтобы понять, как можно изучать то или другое респондентное поведение, полезно познакомиться с трудами И. П. Павлова, первого ученого, чье имя связывают с бихевиоризмом.

Павлов, русский физиолог, первым при изучении физиологии пищеварения открыл, что респондентное поведение может быть классически обусловленным. Он наблюдал, что пища, помещенная в рот голодной собаки, автоматически вызывает слюноотделение. В таком случае, слюноотделение — это безусловная реакция или, как Павлов назвал это, безусловный рефлекс (БР). Он вызывается пищей, которая является безусловным стимулом (БС). Великое открытие Павлова состояло в том, что если ранее нейтральный стимул многократно объединялся с БС, то в конце концов нейтральный стимул приобретал способность вызывать БР и в тех случаях, когда он предъявлялся без БС. Например, если колокольчик звонит каждый раз непосредственно перед тем, как пища оказывается в пасти собаки, постепенно у нее начнет выделяться слюна при звуке колокольчика, даже если пищи нет. Новая реакция (слюноотделение на звук колокольчика) называется условным рефлексом (УР), а ранее нейтральный, вызывающий ее стимул (звук колокольчика) получил название условный стимул (УС). На рис. 7-1 можно видеть процесс классического обусловливания.

Рис. 7-1. Парадигма классического обусловливания по Павлову.

В более поздних трудах Павлов отмечал, что если он переставал давать пищу после звука колокольчика, у собаки в конце концов совсем прекращалось слюноотделение на этот звук. Этот процесс называется угасание и демонстрирует, что подкрепление (пища) значимо как для приобретения, так и для сохранения респондентного научения. Павлов также обнаружил, что если собаке дают длительный отдых в период угасания, то слюноотделение будет повторяться при звуке колокольчика. Это явление соответственно называется самопроизвольное восстановление.

Несмотря на то, что вначале Павлов проводил эксперименты на животных, другие исследователи начали изучать основные процессы классического обусловливания на людях. Эксперимент, который провели Уотсон и Рейнер (Watson, Rayner, 1920) иллюстрирует ключевую роль классического обусловливания в формировании таких эмоциональных реакций, как страх и тревога. Эти ученые обусловливали эмоциональную реакцию страха у 11-месячного мальчика, известного в анналах психологии под именем «Маленький Альберт». Как и многие дети, Альберт вначале не боялся живых белых крыс. К тому же его никогда не видели в состоянии страха или гнева. Методика эксперимента состояла в следующем: Альберту показывали прирученную белую крысу (УС) и одновременно за его спиной раздавался громкий удар в гонг (БС). После того, как крыса и звуковой сигнал были представлены семь раз, реакция сильного страха (УР) — плач и запрокидывание — наступала, когда ему только показывали животное. Через пять дней Уотсон и Рейнер показали Альберту другие предметы, напоминающие крысу тем, что они были белые и пушистые. Было обнаружено, что реакция страха у Альберта распространилась на множество стимулов, включая кролика, пальто из котикового меха, маску Деда Мороза и даже волосы экспериментатора. Большинство из этих обусловленных страхов все еще можно было наблюдать месяц спустя после первоначального обусловливания. К сожалению, Альберта выписали из больницы (где проводилось исследование) до того, как Уотсон и Рейнер смогли угасить у ребенка страхи, которые они обусловили. О «Маленьком Альберте» больше никогда не слышали. Позже многие резко критиковали авторов за то, что они не убедились в отсутствии у Альберта стойких болезненных последствий эксперимента. Хотя ретроспективно этот случай можно назвать жестоким, он действительно поясняет, как подобные страхи (боязнь незнакомых людей, зубных врачей и докторов) можно приобрести в процессе классического обусловливания.

<Многие детские страхи получаются в результате классического обусловливания.>

Респондентное поведение — это скиннеровская версия павловского, или классического обусловливания. Он также называл его обусловливанием типа С, чтобы подчеркнуть важность стимула, который появляется до реакции и выявляет ее. Однако Скиннер полагал, что в целом поведение животных и человека нельзя объяснять в терминах классического обусловливания. Напротив, он делал акцент на поведении, не связанном с какими-либо известными стимулами. Пример для иллюстрации: рассматривая поведение, вы непосредственно сейчас занимаетесь чтением. Определенно, это не рефлекс, и стимул, управляющий этим процессом (экзамены и оценки), не предшествует ему. Наоборот, в основном на ваше поведение чтения воздействуют стимульные события, которые наступят после него, а именно — его последствия. Так как этот тип поведения предполагает, что организм активно воздействует на окружение с целью изменить события каким-то образом, Скиннер определил его как оперантное поведение.Он также называл его обусловливание типа Р,чтобы подчеркнуть воздействие реакции на будущее поведение.

Оперантное поведение (вызванное оперантным научением) определяется событиями, которые следуют за реакцией. То есть за поведением идет следствие, и природа этого следствия изменяет тенденцию организма повторять данное поведение в будущем. Например, катание на роликовой доске, игра на фортепиано, метание дротиков и написание собственного имени — это образцы оперантной реакции, или операнты, контролируемые результатами, следующими за соответствующим поведением. Это произвольные приобретенные реакции, для которых не существует стимула, поддающегося распознаванию. Скиннер понимал, что бессмысленно рассуждать о происхождении оперантного поведения, так как нам неизвестны стимул или внутренняя причина, ответственная за его появление. Оно происходит спонтанно.

Если последствия благоприятны для организма, тогда вероятность повторения операнта в будущем усиливается. Когда это происходит, говорят, что последствия подкрепляются, и оперантные реакции, полученные в результате подкрепления (в смысле высокой вероятности его появления) обусловились. Сила позитивного подкрепляющего стимула таким образом определяется в соответствии с его воздействием на последующую частоту реакций, которые непосредственно предшествовали ему.

И напротив, если последствия реакции не благоприятны и не подкреплены, тогда вероятность получить оперант уменьшается. Например, вы скоро перестанете улыбаться человеку, который в ответ на вашу улыбку всегда бросает на вас сердитый взгляд или вообще никогда не улыбается. Скиннер полагал, что, следовательно, оперантное поведение контролируется негативными последствиями. По определению, негативные, или аверсивные последствия ослабляют поведение, порождающее их, и усиливают поведение, устраняющее их. Если человек постоянно угрюм, вы, вероятно, попытаетесь совсем избегать его. Подобным же образом, если вы паркуете свою машину в том месте, где есть надпись «Только для президента» и в результате на ветровом стекле машины находите штрафной талон, вы, несомненно, скоро прекратите парковаться там.

Для того, чтобы изучать оперантное поведение в лаборатории, Скиннер придумал на первый взгляд простую процедуру, названную свободным оперантным методом.Полуголодную крысу поместили в пустую «свободно-оперантную камеру» (известную как «ящик Скиннера»), где был только рычаг и миска для еды. Сначала крыса демонстрировала множество оперантов: ходила, принюхивалась, почесывалась, чистила себя и мочилась. Такие реакции не вызывались никаким узнаваемым стимулом; они были спонтанны. В конце концов, в ходе своей ознакомительной деятельности крыса нажимала на рычаг, тем самым получая шарик пищи, автоматически доставляемый в миску под рычагом. Так как реакция нажатия рычага первоначально имела низкую вероятность возникновения, ее следует считать чисто случайной по отношению к питанию; то есть мы не можем предсказать, когда крыса будет нажимать на рычаг, и не можем заставить ее делать это. Однако, лишая ее пищи, скажем, на 24 часа, мы можем убедиться, что реакция нажима рычага приобретет, в конце концов, высокую вероятность в такой особой ситуации. Это делается при помощи метода, называющегося научение через кормушку,посредством которого экспериментатор дает шарики пищи каждый раз, когда крыса нажимает на рычаг. Потом можно увидеть, что крыса проводит все больше времени рядом с рычагом и миской для пищи, а через соответствующий промежуток времени она начнет нажимать рычаг все быстрее и быстрее. Таким образом, нажатие рычага постепенно становится наиболее частой реакцией крысы на условие пищевой депривации. В ситуации оперантного научения поведение крысы является инструментальным, то есть оно действует на окружающую среду, порождая подкрепление (пищу). Если далее идут неподкрепляемые опыты, то есть если пища не появляется постоянно вслед за реакцией нажатия рычага, крыса, в конце концов, перестанет нажимать его, и произойдет экспериментальное угасание.

Теперь, когда мы познакомились с природой оперантного научения, будет полезно рассмотреть пример ситуации, встречающейся почти в каждой семье, где есть маленькие дети, а именно — оперантное научение поведению плача. Как только маленькие дети испытывают боль, они плачут, и немедленная реакция родителей — выразить внимание и дать другие позитивные подкрепления. Так как внимание является подкрепляющим фактором для ребенка, реакция плача становится естественно обусловленной. Однако плач может возникать и тогда, когда боли нет. Хотя большинство родителей утверждают, что они могут различать плач от расстройства и плач, вызванный желанием внимания, все же многие родители упорно подкрепляют последний.

Могут ли родители устранить обусловленное поведение плача или ребенку уготована судьба быть «плаксой» на всю жизнь? Уильямс (Williams, 1959) сообщает о случае, который показывает, как обусловленный плач был подавлен у 21-месячного ребенка. Из-за серьезного заболевания в течение первых 18 месяцев жизни ребенок получал повышенное внимание от своих обеспокоенных родителей. Фактически, из-за его крика и плача, когда он ложился спать, кто-то из родителей или тетя, жившая вместе с этой семьей, оставались в его спальне до тех пор, пока он не засыпал. Такое ночное бодрствование обычно занимало два-три часа. Оставаясь в комнате, пока он не засыпал, родители, несомненно, давали позитивное подкрепление поведению плача у ребенка. Он прекрасно контролировал своих родителей. Чтобы подавить это неприятное поведение, врачи велели родителям оставлять ребенка засыпать одного и не обращать никакого внимания на плач. Через семь ночей поведение плача фактически прекратилось. К десятой ночи ребенок даже улыбался, когда его родители уходили из комнаты, и можно было слышать его довольный лепет, когда он засыпал. Через неделю, однако, ребенок сразу начал кричать, когда тетя уложила его в постель и вышла из комнаты. Она возвратилась и осталась там, пока ребенок не заснул. Этого одного примера позитивного подкрепления было достаточно, чтобы стало необходимым во второй раз пройти через весь процесс угасания. К девятой ночи плач ребенка наконец прекратился, и Уильямс сообщил об отсутствии рецидивов в течение двух лет.

Режимы подкрепления

Суть оперантного научения состоит в том, что подкрепленное поведение стремится повториться, а поведение неподкрепленное или наказуемое имеет тенденцию не повторяться или подавляться. Следовательно, концепция подкрепления играет ключевую роль в теории Скиннера.

Скорость, с которой оперантное поведение приобретается и сохраняется, зависит от режима применяемого подкрепления. Режим подкрепления — правило, устанавливающее вероятность, с которой подкрепление будет происходить. Самым простым правилом является предъявление подкрепления каждый раз, когда субъект дает желаемую реакцию. Это называется режимом непрерывного подкрепления и обычно используется на начальном этапе любого оперантного научения, когда организм учится производить правильную реакцию. В большинстве ситуаций повседневной жизни, однако, это либо неосуществимо, либо неэкономично для сохранения желаемой реакции, так как подкрепление поведения бывает не всегда одинаковым и регулярным. В большинстве случаев социальное поведение человека подкрепляется только иногда. Ребенок плачет неоднократно, прежде чем добьется внимания матери. Ученый много раз ошибается, прежде чем приходит к правильному решению трудной проблемы. В обоих этих примерах неподкрепленные реакции встречаются до тех пор, пока одна из них не будет подкреплена.

Скиннер тщательно изучал, как режим прерывистого,или частичного, подкрепления влияет на оперантное поведение. Хотя возможны многие различные режимы подкрепления, их все можно классифицировать в соответствии с двумя основными параметрами: 1) подкрепление может иметь место только после того, как истек определенный или случайный временной интервал с момента предыдущего подкрепления (так называемый режим временного подкрепления);2) подкрепление может иметь место только после того, как с момента подкрепления было получено определенное или случайное количество реакций (режим пропорционального подкрепления). В соответствии с этими двумя параметрами выделяют четыре основных режима подкрепления.

1. Режим подкрепления с постоянным соотношением (ПС). В данном режиме организм подкрепляется по наличию заранее определенного или «постоянного» числа соответствующих реакций. Этот режим является всеобщим в повседневной жизни и ему принадлежит значительная роль в контроле над поведением. Во многих сферах занятости сотрудникам платят отчасти или даже исключительно в соответствии с количеством единиц, которые они производят или продают. В промышленности эта система известна как плата за единицу продукции. Режим ПС обычно устанавливает чрезвычайно высокий оперантный уровень, так как чем чаще организм реагирует, тем большее подкрепление он получает.

2. Режим подкрепления с постоянным интервалом (ПИ). В режиме подкрепления с постоянным интервалом организм подкрепляется после того, как твердо установленный или «постоянный» временной интервал проходит с момента предыдущего подкрепления. На уровне человека режим ПИ действителен при выплате зарплаты за работу, выполненную за час, неделю или месяц. Подобно этому, еженедельная выдача денег ребенку на карманные расходы образует ПИ форму подкрепления. Университеты обычно работают в соответствии с временным режимом ПИ. Экзамены устанавливаются на регулярной основе и отчеты об академической успеваемости издаются в установленные сроки. Любопытно, что режим ПИ дает низкую скорость реагирования сразу после того, как получено подкрепление — феномен, названный паузой после подкрепления.Это показательно для студентов, испытывающих трудности при обучении в середине семестра (предполагается, что они сдали экзамен хорошо), так как следующий экзамен будет еще нескоро. Они буквально делают перерыв в обучении.

3. Режим подкрепления с вариативным соотношением (ВС). В этом режиме организм подкрепляется на основе какого-то в среднем предопределенного числа реакций. Возможно, наиболее драматической иллюстрацией поведения человека, находящегося под контролем режима ВС, является захватывающая азартная игра. Рассмотрим действия человека, играющего в игральный автомат, где нужно опускать монетку или специальной рукояткой вытягивать приз. Эти аппараты запрограммированы таким образом, что подкрепление (деньги) распределяется в соответствии с числом попыток, за которые человек платит, чтобы управлять рукояткой. Однако выигрыш непредсказуем, непостоянен и редко позволяет получать свыше того, что вложил игрок. Это объясняет тот факт, почему владельцы казино получают значительно больше подкреплений, чем их постоянные клиенты. Далее, угасание поведения, приобретенного в соответствии с режимом ВС, происходит очень медленно, так как организм точно не знает, когда будет следующее подкрепление. Таким образом, игрок принуждается опускать монеты в прорезь автомата, несмотря на ничтожный выигрыш (или даже проигрыш), в полной уверенности, что в следующий раз он «сорвет куш». Такая настойчивость типична для поведения, вызванного режимом ВС.

4. Режим подкрепления с вариативным интервалом (ВИ). В этом режиме организм получает подкрепление после того, как проходит неопределенный временной интервал. Подобно режиму ПИ, подкрепление при этом условии зависит от времени. Однако время между подкреплениями по режиму ВИ варьирует вокруг какой-то средней величины, а не является точно установленным. Как правило, скорость реагирования при режиме ВИ является прямой функцией примененной длины интервала: короткие интервалы порождают высокую скорость, а длинные интервалы порождают низкую скорость. Также при подкреплении в режиме ВИ организм стремится установить постоянную скорость реагирования, и при отсутствии подкрепления реакции угасают медленно. В конечном итоге, организм не может точно предвидеть, когда будет следующее подкрепление.

В повседневной жизни режим ВИ нечасто встречается, хотя несколько его вариантов можно наблюдать. Родитель, например, может хвалить поведение ребенка довольно произвольно, рассчитывая, что ребенок будет продолжать вести себя соответствующим образом и в неподкрепленные интервалы времени. Подобно этому, профессора, которые дают «неожиданные» контрольные работы, частота которых варьирует от одной в три дня до одной в три недели, в среднем одна в две недели, используют режим ВИ. При этих условиях от студентов можно ожидать сохранения относительно высокого уровня прилежания, так как они никогда не знают, в какой момент будет следующая контрольная работа.

Как правило, режим ВИ порождает более высокую скорость реагирования и большую сопротивляемость угасанию, чем режим ПИ.

Условное подкрепление

Теоретики, занимающиеся научением, признавали два типа подкрепления — первичное и вторичное. Первичное подкрепление — это любое событие или объект, сами по себе обладающие подкрепляющими свойствами. Таким образом, они не требуют предварительной ассоциации с другими подкреплениями, чтобы удовлетворить биологическую потребность. Первичные подкрепляющие стимулы для людей — это пища, вода, физический комфорт и секс. Их ценностное значение для организма не зависит от научения. Вторичное,или условное подкрепление, с другой стороны, — это любое событие или объект, которые приобретают свойство осуществлять подкрепление посредством тесной ассоциации с первичным подкреплением, обусловленным прошлым опытом организма. Примерами общих вторичных подкрепляющих стимулов у людей являются деньги, внимание, привязанности и хорошие оценки.

Небольшое изменение в стандартной процедуре оперантного научения демонстрирует, как нейтральный стимул может приобрести подкрепляющую силу для поведения. Когда крыса научилась нажимать на рычаг в «ящике Скиннера», сразу же ввели звуковой сигнал (сразу после осуществления реакции), за которым следовал шарик еды. В этом случае звук действует как различительный стимул (то есть животное учится реагировать только при наличии звукового сигнала, так как он сообщает о пищевом вознаграждении). После того, как эта специфическая оперантная реакция устанавливается, начинается угасание: когда крыса нажимает на рычаг, не появляются ни пища, ни звуковой сигнал. Через какое-то время крыса перестает нажимать на рычаг. Затем звуковой сигнал повторяется каждый раз, когда животное нажимает на рычаг, но шарик пищи не появляется. Несмотря на отсутствие первоначального подкрепляющего стимула, животное понимает, что нажатие на рычаг вызывает звуковой сигнал, поэтому оно продолжает настойчиво реагировать, тем самым ослабляя угасание. Другими словами, установленная скорость нажатия на рычаг отражает тот факт, что звуковой сигнал теперь действует как условный подкрепляющий фактор. Точная скорость реагирования зависит от силы звукового сигнала как условного подкрепляющего стимула (то есть от числа случаев, когда звуковой сигнал ассоциировался с первичным подкрепляющим стимулом, пищей, в процессе научения). Скиннер доказывал, что фактически любой нейтральный стимул может стать подкрепляющим, если он ассоциируется с другими стимулами, ранее имевшими подкрепляющие свойства. Таким образом, феномен условного подкрепления в значительной степени увеличивает сферу возможного оперантного научения, особенно если это касается социального поведения человека. Иначе говоря, если бы все, чему мы научились, было пропорционально первичному подкреплению, то возможности для научения были бы очень ограничены, и деятельность человека не была бы столь разнообразна.

Характерным для условного подкрепления является то, что оно генерализуется, если объединяется с более чем одним первичным подкреплением. Деньги — особенно показательный пример. Очевидно, что деньги не могут удовлетворить какое-либо из наших первичных влечений. Все же благодаря системе культурного обмена деньги являются мощным и сильным фактором для получения множества удовольствий. Например, деньги позволяют нам иметь модную одежду, яркие машины, медицинскую помощь и образование. Иные виды генерализованных условных подкрепляющих стимулов — это лесть, похвала, привязанности и подчинение себе других. Эти так называемые социальные подкрепляющие стимулы (включающие в себя поведение других людей) часто действуют очень сложно и едва уловимо, но они существенны для нашего поведения в разнообразных ситуациях. Внимание — простой случай. Все знают, что ребенок может получить внимание, когда притворяется больным или плохо себя ведет. Часто дети назойливы, задают нелепые вопросы, вмешиваются в разговор взрослых, рисуются, поддразнивают младших сестер или братьев и мочатся в постель — и все это для привлечения внимания. Внимание значимого другого — родителей, учителя, возлюбленного — особенно эффективный генерализованный условный стимул, который может содействовать ярко выраженному поведению привлечения внимания.

Еще более сильный генерализованный условный стимул — это социальное одобрение. Например, многие люди проводят массу времени, прихорашиваясь перед зеркалом, в надежде получить одобряющий взгляд супруга или любовника. И женская, и мужская мода — это предмет одобрения, и она существует до тех пор, пока есть социальное одобрение. Студенты высшей школы соревнуются за место в университетской легкоатлетической команде или участвуют в мероприятиях вне учебного плана (драма, диспут, школьный ежегодник) для того, чтобы получить одобрение родителей, сверстников и соседей. Хорошие отметки в колледже — тоже позитивный подкрепляющий стимул,потому что ранее за это получали похвалу и одобрение родителей. Будучи мощным условным подкрепляющим стимулом, удовлетворительные оценки также способствуют поощрению учения и достижению более высокой академической успеваемости.

Скиннер полагал, что условные подкрепляющие стимулы очень важны в контроле поведения человека (Skinner, 1971). Он также отмечал, что каждый человек проходит уникальную науку научения, и вряд ли всеми людьми управляют одни и те же подкрепляющие стимулы. Например, для кого-то очень сильным подкрепляющим стимулом является успех в качестве антрепренера; для других важно выражение нежности; а иные находят подкрепляющий стимул в спорте, академических или музыкальных занятиях. Возможные вариации в поведении, поддержанные условными подкрепляющими стимулами, бесконечны. Следовательно, понять условные подкрепляющие стимулы у человека намного сложнее, чем понять, почему крыса, лишенная пищи, нажимает рычаг, получая в качестве подкрепления только звуковой сигнал.