![]() |
||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Главная Рефераты по сексологии Рефераты по информатике программированию Рефераты по биологии Рефераты по экономике Рефераты по москвоведению Рефераты по экологии Краткое содержание произведений Рефераты по физкультуре и спорту Топики по английскому языку Рефераты по математике Рефераты по музыке Остальные рефераты Рефераты по авиации и космонавтике Рефераты по административному праву Рефераты по безопасности жизнедеятельности Рефераты по арбитражному процессу Рефераты по архитектуре Рефераты по астрономии Рефераты по банковскому делу Рефераты по биржевому делу Рефераты по ботанике и сельскому хозяйству Рефераты по бухгалтерскому учету и аудиту Рефераты по валютным отношениям Рефераты по ветеринарии Рефераты для военной кафедры Рефераты по географии Рефераты по геодезии Рефераты по геологии Рефераты по геополитике Рефераты по государству и праву Рефераты по гражданскому праву и процессу Рефераты по делопроизводству Рефераты по кредитованию Рефераты по естествознанию Рефераты по истории техники Рефераты по журналистике Рефераты по зоологии Рефераты по инвестициям Рефераты по информатике Исторические личности Рефераты по кибернетике Рефераты по коммуникации и связи |
Реферат: Влияние метода сбора данных на вербальное поведение респондентовРеферат: Влияние метода сбора данных на вербальное поведение респондентовМягков Ю. А. Постановка проблемы Специальные исследования по сравнению данных, полученных разными методами опроса, показали, что уровень искренности ответов респондентов зависит не только от содержательного типа вопроса, но и весьма существенно – от способа контакта с опрашиваемыми в процессе сбора социологической информации. Эта зависимость опосредована в первую очередь ситуацией опроса, основные параметры и характеристики которой во многом задаются организационно-техническими особенностями применяемого метода и существенно влияют на характер взаимодействия сторон [1, р. 204]. В этом отношении самым слабым звеном в методическом арсенале современной социологии считаются телефонные интервью. Они заметно уступают прочим методам сбора данных с точки зрения достоверности и качества собираемой информации. В интервью, проводимых по телефону, обнаружен целый ряд весьма серьезных и неочевидных изъянов, свидетельствующих о недостаточной надежности этого метода. Это дало основания полагать, что телефонные интервью "провоцируют" появление неискренних ответов значительно чаще, чем остальные разновидности опроса. Так, экспериментальное исследование, проведенное Ф. Вайсманом с целью сравнительного анализа возможностей трех основных стратегий сбора социологических данных (почтовый опрос, телефонное и персональное интервью), зафиксировало повышенный удельный вес социально желательных ответов при предъявлении респондентам в телефонном интервью таких деликатных и острых вопросов, как отношение к легализации абортов и оценка доступности информации о способах контроля за рождаемостью [2]. При сборе данных по телефону Т. Роджерс, а также Р. Гроувз обнаружили большое число пропусков в сообщениях респондентов, касающихся их финансового положения [3, р. 56; 1, р. 194-195]. О фактах искажений телефонными респондентами сведений о размере доходов сообщают П. Миллер и Ч. Кэннелл [4, р. 260]. Серьезные сомнения относительно достоверности результатов, получаемых в исследованиях с использованием телефонных интервью при прогнозировании электорального поведения и изучении политических ориентаций населения, высказывались и российскими социологами [5, 6, 7]. Сравнивая результаты телефонных и персональных интервью, Р. Гроувз обнаружил также, что, отвечая по телефону, респонденты испытывают более высокий уровень тревожности и дискомфорта при обсуждении с интервьюерами целого ряда тем, традиционно интересующих специалистов по изучению общественного мнения и считающихся обычно эмоционально-нейтральными: доходы, уплата налогов, политические мнения, электоральное поведение, расовые установки, здоровье, работа. Причем наибольшие различия по двум методам были зафиксированы в ответах на вопросы, касающиеся финансового положения людей и их политических воззрений [1, р. 194]. Анализируя маргинальные распределения ответов, Р. Гроувз заметил еще две тенденции, характерные для вербального поведения респондентов в телефонном интервью: 1) стремление выбирать пункты шкал, соответствующие крайней степени удовлетворенности, и тем самым давать более оптимистические оценки различным сторонам своей жизни [1, р. 198-201]; 2) склонность опрашиваемых к более частому выбору нейтральных, промежуточных градаций и к намеренной демонстрации таким образом уклончивых, усредненных мнений [1, р. 198-199]. Кроме того, Р. Гроувз, а позднее Дж. Фокс и П. Трэйси убедительно доказали, что телефонные интервью, помимо указанных недостатков, имеют и значительно более низкие субъективные оценки в сравнении с другими опросными методами. Судя по их данным, большинство респондентов, отвечая на вопрос о том, каким образом они предпочитают общаться с социологами, указали персональное интервью, в то время как телефонному они отвели лишь третье (последнее) место (табл. 1). Таблица 1. Опросные методы, предпочитаемые респондентами, %
Некоторые теоретические предпосылки и объяснительные гипотезы Объясняя различия в ответах респондентов, социологи связывают их скорее не с содержательной спецификой задаваемых вопросов, а с уникальной природой коммуникативных процессов, характерных для разных опросных методов. Процесс коммуникации в телефонном интервью, по мнению многих авторов [10, р. 68; 1, р. 195, 204; 4, р. 251-252], отличается следующими особенностями: Опосредованный характер общения и связанный с ним "дефицит легитимности" во взаимоотношениях между сторонами. Заметная "аффективная дистанция" между участниками телефонного интервью, возникающая в связи с отсутствием прямого визуального контакта. Отчужденный характер коммуникации сторон, участвующих в интервью. Исключительно вербальные способы коммуникации, невозможность использования иных средств общения. Ускоренная интеракция при отсутствии вербальных инструментов регулирования "разговорного потока". Восприятие респондентами телефонного интервью как механического процесса "задавания вопросов и формулирования ответов". Повышенный риск возникновения коммуникативной неадекватности в ответах в связи с ограниченной "канальной способностью" телефона как средства общения. Напряженность коммуникативных отношений в связи с состоянием "микростресса" респондентов. Специфическая для телефонных интервью форма опосредованного, "незримого" общения на расстоянии ставит респондентов в необычную проблемную ситуацию с неконтролируемыми условиями и труднопредсказуемыми последствиями. Пытаясь найти простые, но в то же время действенные способы ее разрешения (то есть превратить негативную ситуацию в позитивную), индивиды, как показано в специальной литературе [11, 12, 13], чаще всего выбирают поведенческую стратегию, основанную на универсальном принципе "практической рациональности". Обычно они руководствуются не правилами, искусственно навязываемыми им "извне" (в нашем случае – интервьюером), а собственной интуицией, личным жизненным опытом или просто соображениями здравого смысла. Именно данная стратегия позволяет им быстрее и эффективнее адаптировать проблемную ситуацию к своим жизненным целям и потребностям, снизить ее неопределенность и элиминировать негативные последствия. Средствами такой адаптации, избираемыми респондентами в телефонных интервью, как раз и выступают различные формы "ситуативной лжи": социально желательные, конформные, услужливые (лицемерные), уклончивые и неопределенные ответы, а также отказ от участия в исследовании или преждевременное прерывание беседы. Вместе с тем следует отметить, что данные о влиянии метода на характер ответов респондентов, полученные в американской социологии в предыдущие годы, несколько противоречивы и не дают достаточных оснований для окончательного вывода об ущербности телефонных опросов. Так, Дж. Хочстим в результате сравнительного исследования трех известных способов сбора данных пришел к заключению, что в телефонном интервью и при почтовом анкетировании женщины, отвечая на вопросы об употреблении алкоголя, были более искренними, чем в персональном интервью [14]. Исследования Т. Роджерс показали, что при телефонном опросе респонденты демонстрировали более точные и достоверные ответы на вопросы, касающиеся уровня их образования и факта участия в выборах, чем в личной беседе. В итоге Роджерс склоняется к выводу о сопоставимости результатов, полученных по установочным, познавательным и личным вопросам при использовании двух стратегий интервьюирования, и о взаимозаменяемости последних [3, р. 54, 59, 65], замечая однако, что непосредственная интеракция "лицом к лицу" вызывает смещения в ответах респондентов и в ряде случаев "может быть барьером при получении высококачественных данных" [3, р. 65]. Не было обнаружено значимых различий в склонности респондентов к социально желательным ответам в зависимости от используемого метода и в исследованиях Дж. Коломботоса [15]. Эмпирическая база и методы исследования Учитывая противоречивый характер имеющихся сведений, а также гипотетический характер ряда теоретических положений, мы попытались подвергнуть некоторые из них эмпирической проверке с использованием методов вторичного анализа данных, полученных нами в ходе опросов, посвященных изучению социально-политических ориентаций и электорального поведения населения г. Иваново. В сентябре-октябре 1995 г. социологическим центром Ивановского государственного энергетического университета под руководством автора было проведено три обследования, синхронизированных по времени и основанных на сопоставимых однотипных (квотных) выборках, выравненных по полу, возрасту и роду занятий респондентов. Два исследования (N=700 и N=705) проводились методом анкетного опроса по месту жительства респондентов, в третьем (N=100) – использовался метод формализованного телефонного интервью. Для последующего сравнения результатов некоторые вопросы, задававшиеся респондентам, были продублированы без каких-либо изменений в инструментарии всех трех исследований. В этот же период службой представительства Президента по Ивановской области были проведены еще два телефонных экспресс-интервью (N=150 и N=157), также посвященных предвыборной проблематике и включавших вопросы, аналогичные нашим как по содержанию, так и по формулировкам. Учитывая временную и методологическую сопоставимость этих опросов с нашими исследованиями, мы сочли возможным использовать полученные в них данные в качестве дополнительной эмпирической базы. Кроме того, в марте 1998 года кафедрой социологии Ивановского государственного энергетического университета было предпринято специальное четырехфазное методическое исследование, ориентированное на сравнительный анализ данных, получаемых с помощью различных опросных методов. 190 человек, предварительно отобранных по случайной систематической выборке из электронного справочника телефонных абонентов г. Иваново, были опрошены по телефону на основе стандартизированного вопросника. Одновременно с этим проводились опросы ивановцев в режиме анкетирования (N=200) и персонального интервью (N=200). Для отбора респондентов использовалась квотная модель выборки, репрезентировавшая взрослое городское население по полу, возрасту и роду занятий. И, наконец, 23 человека повторно отвечали на ту же самую анкету через 3-5 дней, заполняя ее самостоятельно. В ходе этого исследования изучались также субъективные оценки респондентов и их предпочтения относительно четырех известных методов сбора социологических данных: персонального и телефонного интервью, раздаточного и почтового анкетирования. Обсуждение результатов Сравнительный анализ результатов четырех независимых друг от друга исследований, проведенных в 1995 году и включавших аналогичные вопросы, свидетельствуют о явной близости ответов, зафиксированных одним и тем же методом, при существенном расхождении данных, полученных разными опросными процедурами. Внутрикластерные различия, как видно из табл. 2, оказываются значительно слабее (от 3 до 8%), чем различия межкластерные (достигающие 20%). Таблица 2. Распределение ответов на вопрос: "Вы собираетесь или не собираетесь участвовать в предстоящих выборах в Государственную Думу?" в исследованиях с использованием разных методов, %
Приведенные данные позволяют утверждать, что доля неискренних ответов на вопросы о предполагаемом электоральном поведении респондентов в телефонных интервью заметно выше (в среднем на 16%), чем в традиционных анкетных опросах. Опосредованный способ общения без визуального восприятия собеседника способствует появлению явно завышенного числа "услужливых" и конформных ответов, обусловленных желанием респондентов "ублажить" интервьюеров посредством имитированной солидаризации с общепринятыми нормами и образцами одобряемого политического поведения, и тем самым избежать вероятных с точки зрения негативных санкций ("ублажающая" и "конформистская" стратегии поведения). Повышенный удельный вес неискренних ответов в телефонном интервью, как оказалось, характерен не только для интенциональных вопросов. Сопоставление данных по другим их типам (например, вопросам, предназначенным для выявления и фиксации политических мнений, оценок и самооценок) также обнаруживает влияние метода на характер вербального поведения респондентов. Сравнительный анализ результатов исследований, проведенных в 1995 г. с использованием двух разных методов, приводит к выводу, что уровень искренности респондентов при ответах на вопросы, требующие оценок известных политических деятелей или государственных органов (например, Президента и правительства), в телефонных интервью заметно ниже. Здесь чаще, чем в анкетных опросах, встречаются положительные и реже – отрицательные ответы. Выше и удельный вес уклончивых, неопределенных ответов, свидетельствующих о нежелании значительного числа отвечающих (около четверти всех опрошенных) высказывать интервьюерам свою истинную точку зрения по телефону (табл. 3 и 4). Более детальное рассмотрение полученных данных показывает, что превышение позитивных оценок деятельности Президента, наблюдаемое у телефонных респондентов, обеспечивается за счет большего числа твердых, уверенных, однозначно одобрительных ответов. Умеренные, осторожные высказывания в этой части шкалы у них встречается реже. И, наоборот, выражая негативное отношение к главе государства, респонденты, "работавшие" в режиме телефонного интервью, старались всячески сгладить, смягчить свои оценки и уйти от прямой критики в его адрес. Они чаще, чем участники анкетного опроса, выбирали срединные, промежуточные (и реже крайние) пункты оценочной шкалы, стремясь тем самым продемонстрировать свою внешнюю лояльность Президенту ("регрессия поведения") (табл. 3). В результате в телефонном интервью ответы в целом оказываются менее критичными и неестественно сдвинуты в сторону положительного спектра оценок. Таблица 3. Распределение ответов на вопрос: "Как вы оцениваете деятельность Президента России за последний год?", %
Сходная картина обнаруживается и при анализе частотных распределений, характеризующих мнения людей относительно дееспособности российского правительства: при незначительном превышении доли одобрительных (оптимистических) оценок удельный вес отрицательных в телефонном интервью заметно ниже, чем в анкетном опросе. При этом телефонные респонденты, как и в предыдущем случае, продемонстрировали повышенный уровень поведенческой регрессии (табл. 4). По данным наших исследований, манипулирование вопросной техникой не приводит к изменению общих, отмеченных ранее тенденций в распределении ответов респондентов, опрошенных разными методами. В частности, использование в анкете и в телефонном вопроснике косвенного безличного вопроса (вместо личного прямого), ориентированного на повышение уровня искренности ответов и получение более достоверных данных об отношении населения к Президенту России, не дало ожидаемых результатов. Наша первичная гипотеза о вероятном ослаблении социальной желательности при использовании стимулирующих средств в условиях телефонного интервью не подтвердилась. Удельный вес позитивных оценок Президента при безличном обращении к опрашиваемым не сократился, а, наоборот, увеличился по сравнению с личным вопросом. И хотя это увеличение было замечено для обоих опросных методов, прирост в телефонном интервью оказался несколько выше, чем в анкетном опросе: 1,80 и 1,68 раза соответственно. Таблица 4. Распределение ответов на вопрос: "Как вы полагаете, сможет или не сможет нынешнее правительство вывести страну из кризиса?", %
Усилился и разрыв между числом положительных ответов, зафиксированных разными методами. В том случае, когда от респондентов требовали дать прямую оценку деятельности Президента страны, превышение одобрительных ответов, полученных по телефону, по сравнению с анкетированием составило 1,72 раза. При получении оценки косвенным путем эта разница достигла 1,85 раза (табл. 3 и 5). Это, по-видимому, свидетельствует о том, что традиционные способы повышения искренности (замена прямых вопросов косвенными, перевод личных вопросов в безличные и т. п.) не могут элиминировать влияние метода сбора данных на вербальное поведение респондентов. В телефонном интервью конформизм и социальная желательность более частые явления, чем в обычном анкетном опросе. Таблица 5. Распределение ответов на вопрос: "Как вы считаете, изберут или не изберут нынешнего Президента России снова, если он выдвинет свою кандидатуру на очередных президентских выборах?", %
Описанные выше феномены объясняются на наш взгляд, спецификой коммуникативных ситуаций, возникающих в условиях применения различных опросных методов и вызывающих у респондентов разные поведенческие стратегии. Если при анкетировании вопросы, связанные с необходимостью оценки Президента и правительства, мало кем из участников опроса считаются острыми ("чувствительными") или деликатными, то в телефонных интервью их восприятие в качестве таковых заметно усиливается, что и стимулирует соответствующие вербальные реакции опрашиваемых. По данным нашего методического исследования, проведенного в 1998 году, большинство респондентов предпочитают высказываться относительно социально-экономической политики правительства либо в личной беседе с интервьюером "с глазу на глаз" (31,5 %), либо заполняя анкету самостоятельно (27,4 %). Телефонное общение на эту тему считают уместным лишь 14,7 % всех опрошенных (еще 5,8 % выбрали почтовый опрос и 20,6 % затруднились с ответом). При анализе ответов на вопросы, касающихся оценок респондентами их жизненного уровня, а также требующих социально-групповой самоидентификации, обнаруживаются две достаточно характерные для подобного рода случаев тенденции. С одной стороны, в телефонных интервью более выражено стремление опрашиваемых к принятию семантически нейтральных, промежуточных, а потому "безопасных" или "малообязывающих", с их точки зрения, вариантов ответов. Это свидетельствует, скорее всего, об актуализации у значительной части респондентов в процессе беседы конформистской стратегии поведения, позволяющей им имитировать свою идентичность с основной массой населения, что для них кажется весьма немаловажным в условиях обострения криминогенной ситуации в стране. С другой стороны, в данных об уровне жизни, собираемых по телефону, просматривается более активное желание людей защитить свое "идеальное, социальное, настоящее (или прошлое) Я" от возможного разрушения в ходе опроса посредством самоотнесения к категории "средних слоев" населения ("самоконструирующая" стратегия самоподачи) (табл. 6 и 7). Самоидентификация со "средним слоем" дает респондентам возможность поддерживать и укреплять их собственные представления о своем материальном и социальном статусе, сложившиеся у большинства из них еще в прошлые годы, но резко пошатнувшиеся в период рыночных реформ. Таблица 6. Распределение ответов на вопрос: "Как изменился ваш жизненный уровень за последние полгода?", %
Таблица 7. Распределение ответов на вопрос: "К каким слоям населения по уровню жизни вы сами себя относите?", %
Обе отмеченные тенденции отчетливо просматриваются и при сравнительном анализе ответов респондентов на вопросы о доходах и их соответствии прожиточному минимуму. Как следует из табл. 8, в телефонном интервью, по сравнению с анкетным опросом, люди намного чаще выбирают промежуточную градацию и прежде всего в тех случаях, когда от них требуется самооценка жизненного уровня. В результате доля людей, чьи доходы "примерно соответствуют прожиточному минимуму", оказывается здесь неестественно завышенной. ##h4Таблица 8. Распределение ответов респондентов на вопросы о доходах и их соответствии прожиточному минимуму в зависимости от метода сбора данных, %
* Рассчитано по: [17, с. 1]. Здесь так же, как и в анкетном опросе, использовалась следующая формулировка вопроса: "Каков средний доход в вашей семье на одного человека в месяц?". Ответы респондентов кодировались с учетом величины прожиточного минимума для жителей г. Иваново на сентябрь-октябрь 1995 года. ** Для сбора первичных данных использовался вопрос: "Соответствуют ли доходы в вашей семье прожиточному минимуму?" с пятичленной оценочной шкалой [18, с. 1]. 1% респондентов затруднился ответить на данный вопрос. Сопоставление ответов, полученных при использовании разных методов, высвечивает и еще один весьма примечательный факт. Судя по данным, приведенным в табл. 8, респонденты, опрашиваемые по телефону, склонны существенно занижать уровень своих реальных доходов, причем подобная поведенческая стратегия весьма устойчива и вызывается не только формой вопроса или его содержательной спецификой, сколько коммуникативными характеристиками телефонного интервью и особенностями опросной ситуации. Все вопросы, касающиеся размера и источников доходов, традиционно воспринимаются людьми как чрезвычайно острые и деликатные вне зависимости от способа их предъявления. В телефонном интервью, страдающем "дефицитом легитимности", степень их остроты для респондентов резко повышается. Не случайно, в нашем исследовании 1998 г. в качестве наиболее приемлемых способов обсуждения этой темы участники опроса назвали анкетирование (29,1%) и личное интервью (25,6%). Телефонному интервью в данном случае отдали предпочтение лишь 15,2% респондентов. В результате исследования выяснилось также, что в интервью по телефону вопрос о доходах оставили без ответа 26,3% опрошенных, в то время как при заполнении анкеты и в ходе личной беседы – лишь по 11,5% респондентов. Влияние метода сбора данных ощущается и в ответах респондентов на вопросы о мнениях. "Работая" в режиме телефонных интервью, как видно из табл. 9, они чаще используют прием "искусственной манифестации мнений" (Ф. Олпорт), охотнее принимая "подсказки", содержащие шаблонные и стереотипные ответы ("бывшая партноменклатура", "руководители крупных промышленных предприятий и банков"), и, напротив, слабее реагируя на те из них, которые, по их мнению, могут иметь для них негативные последствия (ответы типа: "мафия", "новая буржуазия" и т. д.). Таблица 9. Распределение ответов на вопрос: "Кто, по вашему мнению, является сегодня реальным хозяином в нашем городе?", %
Такой тип вербального поведения также можно считать вполне объяснимым с учетом фактора "незримого" общения по телефону с неизвестным собеседником. Заключение Метод сбора социологических данных действительно влияет на ответы респондентов. Из восьми вопросов ответы только на один из них оказались не зависимы от способа его предъявления. При этом уровень искренности респондентов в значительно меньшей степени связан с содержанием и целевым назначением вопроса, чем с используемым в исследовании методом. Разные способы опроса обладают, соответственно, и разной способностью стимулировать искренние, достоверные ответы респондентов. Как показано выше, качество и достоверность сведений, собираемых по телефону, оказывается заметно ниже, чем у данных, полученных другими способами. Это связано прежде всего с тем, что телефонное общение воспринимается респондентами как ситуация, обладающая наименьшим уровнем анонимности, а потому допускающая возможность нарушения конфиденциальности сообщаемой ими информации. Метод накладывает определенные, порой очень серьезные, ограничения на исследуемую проблематику. Телефонные интервью демонстрируют меньшую надежность при изучении, например, таких тем, как фактическое и предполагаемое электоральное поведение, политические оценки и мнения граждан, доходы и уровень жизни населения. Поэтому использование телефонных опросов при прогнозировании исхода голосований, а также при сборе данных по социально-экономическим и политическим вопросам является весьма проблематичным. Список литературы Groves R. Actors and questions in telephone and personal interview survey // Public Opinion Quarterly. 1979. Vol. 43. No. 2. Wiseman F. Methodological bias in public opinion surveys // Public Opinion Quarterly. 1972. Vol. 36. No. 1. Rogers T. Interviews by telephone and in person: quality of responses and field performance // Public Opinion Quarterly. 1976. Vol. 40. No. 1. Miller P.V., Cannell Ch.F. A study of experimental techniques for telephone interviewing // Public Opinion Quarterly. 1982. Vol. 46. No. 2. Мичурин В.А., Ягодина О.А. Социологические прогнозы и реальность // Социологические исследования. 1992. No. 1. Дмитриев А.В., Тощенко Ж.Т. Социологические опросы и политика // Социологические исследования. 1994. No. 5. Растов Ю.В. Выборы губернатора: точность социологических прогнозов // Социологические исследования. 1997. N 12. Fox J.A., Tracy P.E. Randomized response: A method for sensitive surveys. Beverly Hills, CA.: SQASS, 1986. Makkai T., Mcallister I. Measuring social indicators in opinion surveys: A method to improve accuracy on sensitive questions // Social Indicators Research. 1992. Vol. 27. No. 2. Dillman D.A., Gallegos J.G., Frey J.H. Reducing refusal rates for telephone interviews // Public Opinion Quarterly. 1976. Vol. 40. No. 1. Molotch H. Sociology and economy. Santa Barbara: University оf California Press, 1989. Барская О.Л. Социальная идентификация и практическая рациональность // Социально-политическая идентификация в условиях перестройки. М.: Институт социологии РАН, 1991. Давыдов А.А. Респондент как источник информации. М.: Институт социологии РАН, 1993. Hochstim J.R. A Critical comparison of three strategies of collecting data from households // Journal of the American Statistical Association. 1967. Vol. 62. No. 6. Colombotos J. Personal versus telephone interviews: Effect on responses // Public Health Reports. 1969. Vol. 84. No. 5. Сомневающихся стало больше // Ивановская газета. 1995. 22 сентября. Бедные мы… бедные? // Ивановская газета. 1995. 16 ноября. Как вам живется, ивановцы? // Рабочий край. 1995. 15 ноября. Список литературы Для подготовки данной работы были использованы материалы с сайта http://www.i-u.ru/ |
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||