<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE root>
<article xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:ali="http://www.niso.org/schemas/ali/1.0/" article-type="research-article" dtd-version="1.2" xml:lang="en"><front><journal-meta><journal-id journal-id-type="publisher-id">RUDN Journal of Sociology</journal-id><journal-title-group><journal-title xml:lang="en">RUDN Journal of Sociology</journal-title><trans-title-group xml:lang="ru"><trans-title>Вестник Российского университета дружбы народов. Серия: Социология</trans-title></trans-title-group></journal-title-group><issn publication-format="print">2313-2272</issn><issn publication-format="electronic">2408-8897</issn><publisher><publisher-name xml:lang="en">Peoples’ Friendship University of Russia named after Patrice Lumamba</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="publisher-id">19745</article-id><article-id pub-id-type="doi">10.22363/2313-2272-2018-18-4-627-637</article-id><article-categories><subj-group subj-group-type="toc-heading" xml:lang="en"><subject>Theory, Methodology and History of Sociological Research</subject></subj-group><subj-group subj-group-type="toc-heading" xml:lang="ru"><subject>Вопросы истории, теории и методологии</subject></subj-group><subj-group subj-group-type="article-type"><subject>Research Article</subject></subj-group></article-categories><title-group><article-title xml:lang="en">DEVELOPING AN APPROACH TO MULTIMODAL QUANTITATIVE ASSESSMENT OF INTERVIEWERS’ COGNITIVE LOAD: FIRST RESULTS OF A FIELD QUASI EXPERIMENT</article-title><trans-title-group xml:lang="ru"><trans-title>РАЗРАБОТКА ПОДХОДА К КОЛИЧЕСТВЕННОЙ МУЛЬТИМОДАЛЬНОЙ ОЦЕНКЕ КОГНИТИВНОЙ НАГРУЗКИ ИНТЕРВЬЮЕРОВ: РЕЗУЛЬТАТЫ ПИЛОТНОГО КВАЗИЭКСПЕРИМЕНТА</trans-title></trans-title-group></title-group><contrib-group><contrib contrib-type="author"><name-alternatives><name xml:lang="en"><surname>Deviatko</surname><given-names>I F</given-names></name><name xml:lang="ru"><surname>Девятко</surname><given-names>Инна Феликсовна</given-names></name></name-alternatives><bio xml:lang="en"><p>-</p></bio><bio xml:lang="ru"><p>доктор социологических наук, профессор департамента социологии Национального исследовательского университета «Высшая школа экономики»; главный научный сотрудник Института социологии Федерального научно-исследовательского социологического центра Российской академии наук</p></bio><email>deviatko@gmail.com</email><xref ref-type="aff" rid="aff1"/><xref ref-type="aff" rid="aff2"/></contrib></contrib-group><aff-alternatives id="aff1"><aff><institution xml:lang="en">National Research University Higher School of Economics</institution></aff><aff><institution xml:lang="ru">Национальный исследовательский университет «Высшая школа экономики»</institution></aff></aff-alternatives><aff-alternatives id="aff2"><aff><institution xml:lang="en">Institute of Sociology of FCTAS RAS</institution></aff><aff><institution xml:lang="ru">Институт социологии ФНИСЦ РАН</institution></aff></aff-alternatives><pub-date date-type="pub" iso-8601-date="2018-12-15" publication-format="electronic"><day>15</day><month>12</month><year>2018</year></pub-date><volume>18</volume><issue>4</issue><issue-title xml:lang="en">VOL 18, NO4 (2018)</issue-title><issue-title xml:lang="ru">ТОМ 18, №4 (2018)</issue-title><fpage>627</fpage><lpage>637</lpage><history><date date-type="received" iso-8601-date="2018-11-18"><day>18</day><month>11</month><year>2018</year></date></history><permissions><copyright-statement xml:lang="en">Copyright ©; 2018, Deviatko I.F.</copyright-statement><copyright-statement xml:lang="ru">Copyright ©; 2018, Девятко И.Ф.</copyright-statement><copyright-year>2018</copyright-year><copyright-holder xml:lang="en">Deviatko I.F.</copyright-holder><copyright-holder xml:lang="ru">Девятко И.Ф.</copyright-holder><ali:free_to_read xmlns:ali="http://www.niso.org/schemas/ali/1.0/"/><license><ali:license_ref xmlns:ali="http://www.niso.org/schemas/ali/1.0/">http://creativecommons.org/licenses/by/4.0</ali:license_ref></license></permissions><self-uri xlink:href="https://journals.rudn.ru/sociology/article/view/19745">https://journals.rudn.ru/sociology/article/view/19745</self-uri><abstract xml:lang="en"><p>The belief that survey research instruments mediating communication between interviewer and respondent influence the quality of data obtained in the interview has become a conventional methodological wisdom long ago. However, the impact of the cognitive load experienced by the interviewer has not been systematically examined. When a questionnaire is filled up by an interviewer it is the latter who has to allocate limited individual resources of attention, memory, visual and motor control, active listening and interpretation in order to minimize the respondent’s misunderstanding of the questions and one’s own errors of the answers’ fixation. However, among various methods of pre-testing or evaluating survey mode effects and assessing instruments’ quality, the methods of multimodal quantitative estimation of instrument-related cognitive load experienced by interviewers during the interview are still rare or lacking. Thus, the article presents a brief review of subjective, behavioral and physiological measures of the cognitive load, which are used in such disciplinary fields as cognitive science, ergonomics, etc., and a discussion of preliminary findings of the field quasi-experiment conducted among the interviewers of the Russian Longitudinal Monitoring Survey on the first stage of transition to the CAPI mode. The quasi-experiment findings prove some possibilities and limitations of the parallel use of a version of the cognitive load rating scale developed by F. Paas and a simple physiological measure (heart rate) supplemented with a background screen video capture from Android-based tablets used for CAPI interviews for the multimodal quantitative evaluation and optimization of the interviewer’s cognitive load.</p></abstract><trans-abstract xml:lang="ru"><p>Представление о том, что опросный инструментарий, опосредующий коммуникацию между интервьюером и респондентом, влияет на качество опросных данных, давно превратилось в общеизвестную методологическую мудрость. Однако влияние на качество данных когнитивной нагрузки, испытываемой интервьюером в процессе проведения интервью, пока не получило систематического рассмотрения в существующей литературе. В ситуации, когда анкета заполняется интервьюером, именно последний должен распределять ограниченные индивидуальные ресурсы внимания, памяти, визуального и моторного контроля, а также использовать навыки активного слушания и интерпретации, чтобы свести к минимуму недопонимание вопроса респондентом и собственные ошибки фиксации ответов. Тем не менее, среди различных методов предварительного тестирования качества опросного инструментария или оценки потенциальных эффектов способа проведения опроса методы мультимодальной количественной оценки когнитивной нагрузки интервьюера, сопряженной с использованием опросного инструментария во время интервью, все еще редки или практически отсутствуют. В статье представлены: краткий перечень субъективных, поведенческих и физиологических мер когнитивной нагрузки, используемых в таких дисциплинарных областях, как когнитивная наука, эргономика и т.д., а также описание и обсуждение предварительных результатов пилотного квазиэксперимента, участниками которого стали интервьюеры «Российского мониторинга экономического положения и здоровья населения НИУ ВШЭ», проходившие обучение в процессе перехода от интервьюирования с помощью бумажной анкеты (PAPI) к использованию компьютерных технологий в процессе проведения интервью (CAPI). Результаты исследования позволили продемонстрировать некоторые преимущества и технические ограничения, связанные с параллельным использованием варианта популярной шкалы самооценки когнитивной нагрузки (шкала Пааса) и простого физиологического индикатора (частота сердечных сокращений), дополненных данными видеозаписи с экрана планшета, применявшегося в процессе интервьюирования, в целях мультимодальной количественной оценки когнитивной нагрузки интервьюера при проведении интервью.</p></trans-abstract><kwd-group xml:lang="en"><kwd>cognitive load</kwd><kwd>multimodal quantitative assessment of interview-related cognitive load</kwd><kwd>PAPI and CAPI</kwd><kwd>survey data quality</kwd><kwd>the Paas scale</kwd><kwd>heart rate</kwd></kwd-group><kwd-group xml:lang="ru"><kwd>когнитивная нагрузка</kwd><kwd>мультимодальная оценка когнитивной нагрузки, связанной с проведением интервью</kwd><kwd>PAPI и CAPI</kwd><kwd>качество опросных данных</kwd><kwd>шкала Пааса</kwd><kwd>частота сердечных сокращений</kwd></kwd-group><funding-group/></article-meta></front><body></body><back><ref-list><ref id="B1"><label>1.</label><citation-alternatives><mixed-citation xml:lang="en">Bogdanov M.B., Lebedev D.V. “Glavnoe — ne boyatsya” — vozdejstvie treningov na ozhidaniya intervyuerov pri perekhode ot PAPI k CAPI [“Do not worry!” — training’s impact on interviewers’ expectations towards the change from PAPI to CAPI]. Sociologiya: Metodologiya, Metody, Matematicheskoe Modelirovanie. 2017; 45: 102—132 (In Russ.).</mixed-citation><mixed-citation xml:lang="ru">Богданов М.Б., Лебедев Д.В. «Главное не бояться!» - воздействие тренингов на ожидания интервьюеров при переходе от PAPI к CAPI // Социология: методология, методы, математическое моделирование. 2017. № 45. С. 102-132</mixed-citation></citation-alternatives></ref><ref id="B2"><label>2.</label><citation-alternatives><mixed-citation xml:lang="en">Deviatko I.F., Lebedev D.V. Glazami intervyuera, glazami respondenta: kontury novogo podkhoda k otsenke kognitivnoj nagruzki pri provedenii oprosa [Through the eyes of the interviewer, through the eyes of the respondent: A new approach to the assessment of cognitive load during the interview. Monitoring Obschestvennogo Mneniya: Ekonomicheskie i Socialnye Peremeny. 2017; 5: 1—19 (In Russ.).</mixed-citation><mixed-citation xml:lang="ru">Девятко И.Ф., Лебедев Д.В. Глазами интервьюера, глазами респондента: контуры нового подхода к оценке когнитивной нагрузки при проведении опроса // Мониторинг общественного мнения: Экономические и социальные перемены. 2017. № 5. С. 1-19</mixed-citation></citation-alternatives></ref><ref id="B3"><label>3.</label><citation-alternatives><mixed-citation xml:lang="en">Terentev E.A., Mavletova A.M., Kosolapov M.S. Intervyuirovanie s pomoschyu kompyuternyh tekhnologij v longityudnyh obsledovaniyah domohozyajstv [Computer-assisted personal interviewing for longitudinal household studies]. Monitoring Obschestvennogo Mneniya: Ekonomicheskie i Socialnye Peremeny. 2018; 3: 47—64 (In Russ.).</mixed-citation><mixed-citation xml:lang="ru">Терентьев Е.А., Мавлетова А.М., Косолапов М.С. Интервьюирование с помощью компьютерных технологий в лонгитюдных обследованиях домохозяйств // Мониторинг общественного мнения: Экономические и социальные перемены. 2018. № 3. С. 47-64</mixed-citation></citation-alternatives></ref><ref id="B4"><label>4.</label><citation-alternatives><mixed-citation xml:lang="en">Bassili J.N., Scott B.S. Response latency as a signal to question problems in survey research. Public Opinion Quarterly. 1996; 60 (3): 390—399.</mixed-citation><mixed-citation xml:lang="ru">Bassili J.N., Scott B.S. Response latency as a signal to question problems in survey research. Public Opinion Quarterly. 1996; 60 (3): 390-399.</mixed-citation></citation-alternatives></ref><ref id="B5"><label>5.</label><mixed-citation>Bratfisch O., Borg G., Dornic S. Perceived Item Difficulty in Three Tests of Intellectual Performance Capacity. Stockholm: Institute of Applied Psychology; 1972. Report No. 29.</mixed-citation></ref><ref id="B6"><label>6.</label><mixed-citation>Chen F. et al. Robust Multimodal Cognitive Load Measurement. Springer International Publishing; 2016.</mixed-citation></ref><ref id="B7"><label>7.</label><citation-alternatives><mixed-citation xml:lang="en">Couper M.P., Burt G. Interviewer attitudes toward computer-assisted personal interviewing (CAPI). Social Science Computer Review. 1994; 12 (1): 38—54.</mixed-citation><mixed-citation xml:lang="ru">Couper M.P., Burt G. Interviewer attitudes toward computer-assisted personal interviewing (CAPI). Social Science Computer Review. 1994; 12 (1): 38-54.</mixed-citation></citation-alternatives></ref><ref id="B8"><label>8.</label><citation-alternatives><mixed-citation xml:lang="en">Critchley H.D. Electrodermal responses: What happens in the brain. The Neuroscientists. 2002; 8 (2): 132—142.</mixed-citation><mixed-citation xml:lang="ru">Critchley H.D. Electrodermal responses: What happens in the brain. The Neuroscientists. 2002; 8 (2): 132-142.</mixed-citation></citation-alternatives></ref><ref id="B9"><label>9.</label><citation-alternatives><mixed-citation xml:lang="en">De Leeuw E.D., Hox J.J., Snijkers G. The effect of computer-assisted interviewing on data quality. International Journal of Market Research. 1995; 37 (4): 325—344.</mixed-citation><mixed-citation xml:lang="ru">De Leeuw E.D., Hox J.J., Snijkers G. The effect of computer-assisted interviewing on data quality. International Journal of Market Research. 1995; 37 (4): 325-344.</mixed-citation></citation-alternatives></ref><ref id="B10"><label>10.</label><mixed-citation>Hoogerheide V., Renkl A., Fiorella L., Paas F., van Gog T. Enhancing example-based learning: Teaching on video increases arousal and improves problem-solving performance. Journal of Educational Psychology. 2018. http://dx.doi.org/10.1037/edu0000272.</mixed-citation></ref><ref id="B11"><label>11.</label><citation-alternatives><mixed-citation xml:lang="en">Hӧhne J.C., Schlosser S., Krebs D. Investigating cognitive effort and response quality of question formats in web surveys using paradata. Field Methods. 2017; 29 (4): 365—382.</mixed-citation><mixed-citation xml:lang="ru">Hӧhne J.C., Schlosser S., Krebs D. Investigating cognitive effort and response quality of question formats in web surveys using paradata. Field Methods. 2017; 29 (4): 365-382.</mixed-citation></citation-alternatives></ref><ref id="B12"><label>12.</label><citation-alternatives><mixed-citation xml:lang="en">Jbara A., Feitelson D.G. How programmers read regular code: A controlled experiment using eye tracking. Empirical Software Engineering. 2017; 22 (3): 1440—1477.</mixed-citation><mixed-citation xml:lang="ru">Jbara A., Feitelson D.G. How programmers read regular code: A controlled experiment using eye tracking. Empirical Software Engineering. 2017; 22 (3): 1440-1477.</mixed-citation></citation-alternatives></ref><ref id="B13"><label>13.</label><citation-alternatives><mixed-citation xml:lang="en">Kaminska O., Foulsham T. Real-world eye-tracking in face-to-face and web modes. Journal of Survey Statistics and Methodology. 2014; 2 (3): 343—359.</mixed-citation><mixed-citation xml:lang="ru">Kaminska O., Foulsham T. Real-world eye-tracking in face-to-face and web modes. Journal of Survey Statistics and Methodology. 2014; 2 (3): 343-359.</mixed-citation></citation-alternatives></ref><ref id="B14"><label>14.</label><citation-alternatives><mixed-citation xml:lang="en">Paas F.G. Training strategies for attaining transfer of problem-solving skill in statistics: A cognitive-load approach. Journal of Educational Psychology. 1992; 84 (4): 429—434.</mixed-citation><mixed-citation xml:lang="ru">Paas F.G. Training strategies for attaining transfer of problem-solving skill in statistics: A cognitive-load approach. Journal of Educational Psychology. 1992; 84 (4): 429-434.</mixed-citation></citation-alternatives></ref><ref id="B15"><label>15.</label><citation-alternatives><mixed-citation xml:lang="en">Paas F., Tuovinen J.E., Tabbers H., Van Gerven P.W.M. Cognitive load measurement as a means to advance cognitive load theory. Educational psychologist. 2003; 38 (1): 63—71.</mixed-citation><mixed-citation xml:lang="ru">Paas F., Tuovinen J.E., Tabbers H., Van Gerven P.W.M. Cognitive load measurement as a means to advance cognitive load theory. Educational psychologist. 2003; 38 (1): 63-71.</mixed-citation></citation-alternatives></ref><ref id="B16"><label>16.</label><citation-alternatives><mixed-citation xml:lang="en">Sharot T., Phelps E.A. How arousal modulates memory: Disentangling the effects of attention and retention. Cognitive, Affective, &amp; Behavioral Neuroscience. 2004; 4 (3): 294—306.</mixed-citation><mixed-citation xml:lang="ru">Sharot T., Phelps E.A. How arousal modulates memory: Disentangling the effects of attention and retention. Cognitive, Affective, &amp; Behavioral Neuroscience. 2004; 4 (3): 294-306.</mixed-citation></citation-alternatives></ref><ref id="B17"><label>17.</label><citation-alternatives><mixed-citation xml:lang="en">Stodel M. But what will people think? Getting beyond social desirability bias by increasing cognitive load. International Journal of Market Research. 2015; 57 (2): 313—321.</mixed-citation><mixed-citation xml:lang="ru">Stodel M. But what will people think? Getting beyond social desirability bias by increasing cognitive load. International Journal of Market Research. 2015; 57 (2): 313-321.</mixed-citation></citation-alternatives></ref></ref-list></back></article>
