Forwarded from Правой пяткой
Как разработать тест с нуля
В этот раз рассказываем о 8 этапах разработки теста. Их последовательность условна. И, конечно, не все эти этапы нужны, если вы работаете над небольшим квизом для онлайн-курса. Но вдруг вы уже давно мечатаете создать аналог ЕГЭ? Или тест по измерению чувства юмора?
Ловите новые карточки от меня и Ирины Брун. Много терминов и словечек: конструкт, операционализация, спецификация, апробация, валидизация 😂 Если расшифровки на карточках не хватит, приходите к нам во вторник, 5 декабря, 18:30 мск на вебинар о процессе разработке и о важности спецификации.
В этот раз рассказываем о 8 этапах разработки теста. Их последовательность условна. И, конечно, не все эти этапы нужны, если вы работаете над небольшим квизом для онлайн-курса. Но вдруг вы уже давно мечатаете создать аналог ЕГЭ? Или тест по измерению чувства юмора?
Ловите новые карточки от меня и Ирины Брун. Много терминов и словечек: конструкт, операционализация, спецификация, апробация, валидизация 😂 Если расшифровки на карточках не хватит, приходите к нам во вторник, 5 декабря, 18:30 мск на вебинар о процессе разработке и о важности спецификации.
❤4🔥2
Я думаю, что уже все слышали новость о том, что ученица Алина из Брянска пронесла в школу дробовик и убила как минимум одного человека, помимо себя.
Эта трагедия начинает обрастать интересными для нас подробностями. Сегодня в утреннем эфире дождя рассказали, что Алина за 2 недели до стрельбы "успешно прошла тест на депрессию" (это примерно 11-12 минута эфира).
Вот, подумала я, невероятно яркий и печальный пример важности НОРМАЛЬНОЙ разработки тестов. Если бы школьный психолог использовал валидизированную методику, возможно, общество бы получило маркер, что ученице нужна помощь и поддержка.
К сожалению, у нас очень халатно относятся к качеству тестов и почему-то считают, что 10 вопросов, сделанных на коленке неизвестно кем, измеряют то, что они заявляют. В качестве примера этой мысли вот вам ссылка на департамент труда и соц защиты населения города Москвы, где размещен "тест" (извините, без кавычек тут никак не могу) на депрессию. Обратите внимание на колонку справа страницы: в разделе "о тесте" написан какой-то буллшит о депрессии вместо свидетельств валидности результатов этого теста.
Эта трагедия начинает обрастать интересными для нас подробностями. Сегодня в утреннем эфире дождя рассказали, что Алина за 2 недели до стрельбы "успешно прошла тест на депрессию" (это примерно 11-12 минута эфира).
Вот, подумала я, невероятно яркий и печальный пример важности НОРМАЛЬНОЙ разработки тестов. Если бы школьный психолог использовал валидизированную методику, возможно, общество бы получило маркер, что ученице нужна помощь и поддержка.
К сожалению, у нас очень халатно относятся к качеству тестов и почему-то считают, что 10 вопросов, сделанных на коленке неизвестно кем, измеряют то, что они заявляют. В качестве примера этой мысли вот вам ссылка на департамент труда и соц защиты населения города Москвы, где размещен "тест" (извините, без кавычек тут никак не могу) на депрессию. Обратите внимание на колонку справа страницы: в разделе "о тесте" написан какой-то буллшит о депрессии вместо свидетельств валидности результатов этого теста.
РБК
«Ее буллили». Очевидцы — о стрельбе в брянской гимназии
Над устроившей стрельбу восьмиклассницей «подшучивали мальчики», рассказала РБК одна из учениц. Школьники также сообщили, что у девочки в ботинке был нож
😢3
Как справедливо заметил один из моих подписчиков (и по совместительству друзей) в ссылке на хуевый тест на депрессию департамента труда и соц защиты Москвы есть такая вот фраза:
Давайте обсудим, почему она не делает тест менее хуевым и не должна вызывать у нас доверия.
Здесь у нас могут появиться аргументы из двух групп:
1) сам тест Бека хуевый
2) что-то не так с переводом этого теста на русский
1) Сама шкала Бека была разработана давно и довольно хорошо изучена. Например, вот тут можно про нее прочитать: https://www.sciencedirect.com/topics/medicine-and-dentistry/beck-depression-inventory#:~:text=The%20Beck%20Depression%20Inventory%20(BDI,the%20BDI%20is%20also%20available.
У этой шкалы даже есть версия на 13 вопросов, прям как на нашем сайте!
2) Достаточно ли нам этого, чтобы считать этот «тест» на сайте труда и соц защиты не хуевым? НЕТ, не достаточно! Как только любой инструмент измерения (тест или опросник) начинает использоваться в новой культурной среде или на новом языке, нужно убедиться, что измеряемый конструкт остался тем же самым, перевод вопросов корректен и подходит новой целевой аудитории, а также что на эмпирических данных опросник ведет также.
Вот именно аргументов из второй группы нам и не хватает на сайте труда и соц защиты. А без них тест превращается в тыкву!
наш опросник, составленный на основе знаменитой шкалы Бека…
Давайте обсудим, почему она не делает тест менее хуевым и не должна вызывать у нас доверия.
Здесь у нас могут появиться аргументы из двух групп:
1) сам тест Бека хуевый
2) что-то не так с переводом этого теста на русский
1) Сама шкала Бека была разработана давно и довольно хорошо изучена. Например, вот тут можно про нее прочитать: https://www.sciencedirect.com/topics/medicine-and-dentistry/beck-depression-inventory#:~:text=The%20Beck%20Depression%20Inventory%20(BDI,the%20BDI%20is%20also%20available.
У этой шкалы даже есть версия на 13 вопросов, прям как на нашем сайте!
2) Достаточно ли нам этого, чтобы считать этот «тест» на сайте труда и соц защиты не хуевым? НЕТ, не достаточно! Как только любой инструмент измерения (тест или опросник) начинает использоваться в новой культурной среде или на новом языке, нужно убедиться, что измеряемый конструкт остался тем же самым, перевод вопросов корректен и подходит новой целевой аудитории, а также что на эмпирических данных опросник ведет также.
Вот именно аргументов из второй группы нам и не хватает на сайте труда и соц защиты. А без них тест превращается в тыкву!
❤3🔥3🤗1
ITC Guidelines - Translating and Adapting Tests - v2 3.pdf
697.5 KB
Ну а собственно подробно про то, как надо адаптировать тесты для использования на новом языке или в новой культурной среде можете почитать с Гайдлайнах по адаптации тестов.
Они лежат в открытом доступе.
Пользуйтесь, котики
Они лежат в открытом доступе.
Пользуйтесь, котики
❤6👍3🔥2
Forwarded from Правой пяткой
Завтра, 19 декабря, с 18:30 до 20:10 по московскому времени заключительная встреча нашего с Ирой Брун вводного курса о разработке заданий. Будем говорить о технологиях, современных веяниях.
Большую часть вебинара посвятим компьютерному адаптивному тестированию (CAT) и адаптивному обучению (ITS, HEAS), коснемся и технологически усовершенствованных заданий (TEI), и ChatGPT. Впрыгнуть в последний вагон, купив билет, можно здесь.
А выше соответствие этапов разработки заданий и тех самых «современных веяний». Хотя, конечно, некоторые темы исследуются уже больше 50 (!!!) лет — а сегодня они обретают новое звучание.
⭐️
Большую часть вебинара посвятим компьютерному адаптивному тестированию (CAT) и адаптивному обучению (ITS, HEAS), коснемся и технологически усовершенствованных заданий (TEI), и ChatGPT. Впрыгнуть в последний вагон, купив билет, можно здесь.
А выше соответствие этапов разработки заданий и тех самых «современных веяний». Хотя, конечно, некоторые темы исследуются уже больше 50 (!!!) лет — а сегодня они обретают новое звучание.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥5
IMG_2167.jpg
174.7 KB
Хотела сегодня поделиться с вами смешными заданиями из теста на знание конституции РФ, а там такой корявый сайт, что не дает тест пройти и выкидывает обратно на главную страницу (ну или может закрыли прохождение уже🤷♀️)
Поэтому вот вам тоже смешное, но не про конституцию, а про жизнь
Поэтому вот вам тоже смешное, но не про конституцию, а про жизнь
😁3🥴1
Возможно вы видели новость, что в 2024 году у Диснея заканчиваются исключительные права на раннюю версию Микки Мауса.
Эта новость натолкнула меня на мысль, что мы в тест-девелопменте вообще мало следим за авторскими правами на свои тесты. У нас в хвост и в гриву берут чужие тесты, переводят (в лучшем случае), а иногда и просто копируют задания и считают что это норм и так делать нормально. Естественно, это не так.
Права на тест в России можно оформить двумя способами:
⭐️ как программный продукт, то есть вы оформляете права на код, в котором записан тест и его психометрические модели
⭐️ как текст, то есть творческое произведение типа стихов, когда вы защищаете текст заданий
Тут надо оговориться, что я не юрист, а эти два способа мы выяснили с юристами, когда разбирались как оформить права на один из тестов. Возможно есть и другие способы.
В общем, мой посыл первого рабочего дня после праздников - не забывайте про вопрос правообладания при разработке тестов, отслеживайте, что из теста вам надо защищать🤍
Эта новость натолкнула меня на мысль, что мы в тест-девелопменте вообще мало следим за авторскими правами на свои тесты. У нас в хвост и в гриву берут чужие тесты, переводят (в лучшем случае), а иногда и просто копируют задания и считают что это норм и так делать нормально. Естественно, это не так.
Права на тест в России можно оформить двумя способами:
⭐️ как программный продукт, то есть вы оформляете права на код, в котором записан тест и его психометрические модели
⭐️ как текст, то есть творческое произведение типа стихов, когда вы защищаете текст заданий
Тут надо оговориться, что я не юрист, а эти два способа мы выяснили с юристами, когда разбирались как оформить права на один из тестов. Возможно есть и другие способы.
В общем, мой посыл первого рабочего дня после праздников - не забывайте про вопрос правообладания при разработке тестов, отслеживайте, что из теста вам надо защищать🤍
👍10❤3
Как вы знаете, 17 марта в России пройдут выборы президента.
Интересно, что референдум 91го года о сохранении СССР тоже проходил 17 марта.
По этому забавному стечению обстоятельств давайте разберем вопрос, который был вынесен на референдум и порассуждаем, что с ним не так.
В данном случае нас не должно смущать, что это, по сути, вопрос опроса (простите за дурацкую формулировку), а не задание теста. Общие идеи при разработке опросников и тестовых заданий похожи.
Ну а теперь к делу. Общее впечатление от этого вопроса можно обозначить как «девочка, ты что хочешь? На дачу, или чтобы тебе голову оторвали?» aka ложный выбор.
Откуда взялся в бюллетене этот ложный выбор? А вот тут, дамы и господа, мы подходим к самой сути. Ложный выбор тут появился из-за того, что горе-составители (давайте будем верить в то, что они это не специально) заложили две идеи в один вопрос. Первая идея: «считаете ли вы необходимым сохранение ссср». Вторая (придаточное предложение): «в которой будут гарантироваться права и свободы». И относится к этим двум идеям можно по-разному.
А ответ-то при этом только один! Таким образом, все, кто не хотел сохранения союза, одновременно отказывались и от соблюдения прав и свобод. А те, кто хотели согласиться на гарантию прав и свобод были вынуждены соглашаться на сохранение союза.
Ну и на закуску (тут у меня уже подгорает пердак): кто догадался выбирать ответ путем ЗАЧЁРКИВАНИЯ того варианта, который ты выбирать не хочешь?! Ну это же супер нелогично! Нашему мозгу привычно и логично делать какое-то действие (обводить, кликать мышкой) в сторону того варианта, который мы хотим выбрать, а не в сторону того варианта, от которого мы хотим избавиться.
Я бы постыдилась такой вопрос выносить на всеобщее обозрение…
Интересно, что референдум 91го года о сохранении СССР тоже проходил 17 марта.
По этому забавному стечению обстоятельств давайте разберем вопрос, который был вынесен на референдум и порассуждаем, что с ним не так.
В данном случае нас не должно смущать, что это, по сути, вопрос опроса (простите за дурацкую формулировку), а не задание теста. Общие идеи при разработке опросников и тестовых заданий похожи.
Ну а теперь к делу. Общее впечатление от этого вопроса можно обозначить как «девочка, ты что хочешь? На дачу, или чтобы тебе голову оторвали?» aka ложный выбор.
Откуда взялся в бюллетене этот ложный выбор? А вот тут, дамы и господа, мы подходим к самой сути. Ложный выбор тут появился из-за того, что горе-составители (давайте будем верить в то, что они это не специально) заложили две идеи в один вопрос. Первая идея: «считаете ли вы необходимым сохранение ссср». Вторая (придаточное предложение): «в которой будут гарантироваться права и свободы». И относится к этим двум идеям можно по-разному.
А ответ-то при этом только один! Таким образом, все, кто не хотел сохранения союза, одновременно отказывались и от соблюдения прав и свобод. А те, кто хотели согласиться на гарантию прав и свобод были вынуждены соглашаться на сохранение союза.
Ну и на закуску (тут у меня уже подгорает пердак): кто догадался выбирать ответ путем ЗАЧЁРКИВАНИЯ того варианта, который ты выбирать не хочешь?! Ну это же супер нелогично! Нашему мозгу привычно и логично делать какое-то действие (обводить, кликать мышкой) в сторону того варианта, который мы хотим выбрать, а не в сторону того варианта, от которого мы хотим избавиться.
Я бы постыдилась такой вопрос выносить на всеобщее обозрение…
👍3🤬3🤡1