Один из моих сайд квестов — помогать студентам центрального университета в организации мероприятий AI talks, где видные представители индустрии получают эфирное время и рассказывают о важных для них темах
Последний AI talks прошёл особенно интересно — мы говорили с Евгением Опрышко, аспирантом университета Торонто и специалистом в области безопасного ИИ. Удалось поговорить про безумные темпы развития нейросетевых технологий, графические ускорители в космосе, и про то, как следующая технологическая революция — изобретение AGI — будет способна как стереть человечество с лица земли, так и развить нас до межпланетной цивилизации с высочайшим уровнем технологий
На одном из слайдов был перечислен список вещей, которые могут пойти не так, давайте на них посмотрим:
Ну а ещё подписывайтесь на канал Жени о безопасном ИИ и карьере в этой области (и мне за это даже не заплатили )
Последний AI talks прошёл особенно интересно — мы говорили с Евгением Опрышко, аспирантом университета Торонто и специалистом в области безопасного ИИ. Удалось поговорить про безумные темпы развития нейросетевых технологий, графические ускорители в космосе, и про то, как следующая технологическая революция — изобретение AGI — будет способна как стереть человечество с лица земли, так и развить нас до межпланетной цивилизации с высочайшим уровнем технологий
На одном из слайдов был перечислен список вещей, которые могут пойти не так, давайте на них посмотрим:
- Злоупотребление (misuse):Выглядит солидно... И вот мой вам вопрос: как вы видете мир после изобретения полноценного, всеумеющего ИИ? Верите ли вы в способность человечества избежать всех этих рисков и построить наше коллективное будущее безопасно? Или нас ждут пропоганда через рекомендательные системы, цифровые двойники богатейших людей мира и третья мировая с автономными дронами и антропоморфными роботами-пухососами? Можем поразгонять в комментариях
- Элиты могут использовать ИИ в своих интересах; у людей станет намного меньше рычагов влияния — труда и физической силы — чтобы менять политику элит
- Пропаганда с помощью ИИ
- Люди будут применять (и/или взламывать — jailbreak) ИИ для произвольных задач (включая CBRN)
- В некоторых областях защита сложнее нападения (например, биооружие)
- Потеря контроля (loss of control):
- Если власть уже централизована, может оказаться несложно убедить нескольких ответственных лиц или захватить существующую инфраструктуру
- Несколько ИИ-систем могут координироваться лучше людей, например обучив модель-преемника с общими ценностями или доказав свои намерения через интерпретируемость
- Дрейф ценностей и постепенная утрата влияния (value drift & gradual disempowerment):
- Взаимодействие людей с ИИ-ассистентами уже влияет на наши убеждения
- Автономные решения переносят ценности ИИ на физическую реальность
- Люди могут постепенно терять влияние на экономику, культуру и государство, по мере того как ИИ обходит их в управлении каждым из этих институтов
- Коллапс инфраструктуры:
- У моделей могут быть общие уязвимости — jailbreak, prompt injection, поведение вне распределения (OOD) — либо одна и та же модель развёрнута повсюду
- Unknown unknowns
Ну а ещё подписывайтесь на канал Жени о безопасном ИИ и карьере в этой области (
🌭9🔥8🤩2
Провел свою первую лекцию в Бангкоке
Смотря какой curriculum, смотря какой sillabus
Путь до кампуса — 40 минут ада под палящим полуденным солнцем мимо попахивающих нечистотами ларьков местных жителей . Кажется, именно так наши предки добирались до школы в тех самых рассказах
Сам опыт необычен тем, что мне никогда раньше не приходилось так ответственно и продолжительно общаться на английском. 3 неизбежных часа, в которые тебе надо не то чтобы не уставать и не запинаться, а единолично вести пару, выстраивать драматургию и следить за пониманием студентов — это квест повышенной сложности, в котором оба полушария работают на высоких оборотах (и это восхитительно)
Ожидаемо, кампус приятный и люди здесь очень классные — всё-таки тяга к знаниям преображает любого человека вне зависимости от его пола, возраста и цвета кожи
Кстати у меня в группе есть один грузин и один русский. Сможете их найти?)
Смотря какой curriculum, смотря какой sillabus
Путь до кампуса — 40 минут ада под палящим полуденным солнцем мимо попахивающих нечистотами ларьков местных жителей . Кажется, именно так наши предки добирались до школы в тех самых рассказах
Сам опыт необычен тем, что мне никогда раньше не приходилось так ответственно и продолжительно общаться на английском. 3 неизбежных часа, в которые тебе надо не то чтобы не уставать и не запинаться, а единолично вести пару, выстраивать драматургию и следить за пониманием студентов — это квест повышенной сложности, в котором оба полушария работают на высоких оборотах (и это восхитительно)
Ожидаемо, кампус приятный и люди здесь очень классные — всё-таки тяга к знаниям преображает любого человека вне зависимости от его пола, возраста и цвета кожи
🤩16🔥9🌭4
Провёл свою последнюю лекцию в Бангкоке
Так как Харбор, как и ЦУ, внедряет необычные практики в свой учебный процесс, я смог пощупать кучу всего интересного в ходе проведения занятий
➡️ Глаза разбегаются, скольким хочется поделиться. Во-первых начнём с того, что в Харборе семестровый курс длится 3 недели, и пока у студентов идёт курс Х, ни на какие курсы Y они не отвлекаются. Получается сфокусированная модульная система, в которой всё проходится последовательно (с шагом в те самые 3 недели), а не параллельно, как мы с вами привыкли
Представьте, что вы учитесь по такой системе — в чём основное удобство? Конечно же в том, что вы не отвлекаетесь на посторонние предметы! Помните то состояние, когда вы усиленно готовитесь к экзамену по предмету, и в ночь накануне вам начинают снится сны по проходимому материалу? Кроме того, что вы начинаете чуть лучше понимать Менделеева, которому наснилось что-то полезное, вы глубже закапываетесь в материал, не тратя когнитивный ресурс на СДВГ-шное переключение между предметами
Как это влияет на проектирование курса? 💭
Можно и нужно утилизировать всё время студента — домашки можно давать каждый день, можно задерживаться на подольше. Всё равно после пар у студентов свободен буквально весь день
Однако очевидно, что мы неспроста учились по другой системе. Минусы будут, и главный из них — забывание. Какой бы материал вы ни учили, вы учите его всего 3 недели. В мозге просто не успевают пройти процессы для нормального закрепления материала
Как это влияет на проектирование курса? 💭
А никак. Но влияет на проектирование учебной программы, в которой обязаны быть точки повторения материала. То есть в архитектуре программы явно должны быть заложены вызовы механизма долгосрочной памяти. К слову, мой курс Practical ML частично и был таким курсом-повторяшкой, который брал фундамент (как выяснилось, довольно шаткий ) пройденного ребятами машинного и глубокого обучения, и смотрел на него с новой, практической точки зрения
Смешной, в общем формат, не плохой и не хороший. Телеграм, гадина такая, не даёт расписать всё до конца, так что делаем *монтажную склейку*
Так как Харбор, как и ЦУ, внедряет необычные практики в свой учебный процесс, я смог пощупать кучу всего интересного в ходе проведения занятий
Представьте, что вы учитесь по такой системе — в чём основное удобство? Конечно же в том, что вы не отвлекаетесь на посторонние предметы! Помните то состояние, когда вы усиленно готовитесь к экзамену по предмету, и в ночь накануне вам начинают снится сны по проходимому материалу? Кроме того, что вы начинаете чуть лучше понимать Менделеева, которому наснилось что-то полезное, вы глубже закапываетесь в материал, не тратя когнитивный ресурс на СДВГ-шное переключение между предметами
Как это влияет на проектирование курса? 💭
Можно и нужно утилизировать всё время студента — домашки можно давать каждый день, можно задерживаться на подольше. Всё равно после пар у студентов свободен буквально весь день
Однако очевидно, что мы неспроста учились по другой системе. Минусы будут, и главный из них — забывание. Какой бы материал вы ни учили, вы учите его всего 3 недели. В мозге просто не успевают пройти процессы для нормального закрепления материала
Как это влияет на проектирование курса? 💭
А никак. Но влияет на проектирование учебной программы, в которой обязаны быть точки повторения материала. То есть в архитектуре программы явно должны быть заложены вызовы механизма долгосрочной памяти. К слову, мой курс Practical ML частично и был таким курсом-повторяшкой, который брал фундамент (
Смешной, в общем формат, не плохой и не хороший. Телеграм, гадина такая, не даёт расписать всё до конца, так что делаем *монтажную склейку*
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥10
*Конец монтажной склейки*
Полгода назад, когда я решился на это "приключение на 20 минут", мне захотелось пощупать всё то преподавательское, что до сих пор не удавалось сделать на моих основных курсах... Поехали перечислять
➡️ Бам! Начало курса — приобретение необходимых механических навыков из computer science (версионирование, контейнеризация, поддержание кодовой базы и иже с ними). Впервые провёл пары, где мы ВСЮ ПАРУ не вылезаем из командной строки. В конце сделал обязателный механизированный коллоквиум а-ля первая часть ЕГЭ по пройденному материалу с бесконечным количеством попыток пересдачи
Выводы 💭
По какой-то странной причине людям не нравится 3 часа залипать в терминал... А еще механизированные навыки потрясающе закореняются с помощью тестов. Бесконечное количество попыток пересдачи накладывает нагрузку на преподавателя, но снимает столько стресса и ненужной строгости с процесса сдачи, что все студенты счастливы и лучше закрепляют материал (даже двоечники, сдавая коллоквиум в пятый раз, выучат тему)
➡️ Бам! Середина курса — развитие концепций, которые работают на практике. Тут я вспомнил свой мехматянский бекграунд и решил покошмарить студентов, ВСЮ ПАРУ выписывая формулы и доски (Ох и весело это было делать со сломанной рукой ). Доказали bias-variance tradeoff, аналитически вывели через ядерные функции лайм и прочие шапы... В конце — вы угадали — обязательный коллоквиум, но на этот раз устный (всё ещё с бесконечным количеством попыток пересдач)
Выводы 💭
Все кайфанули с формул, потому что им их не хватало. А еще устный коллоквиум отлично подошёл под такие понятийные и не-механизируемые темы
➡️ Бам! Конец курса — мне стало лень разрабатывать материал проект на закрепление всех материалов курса. Объединённая работа в командах и итоговая обязательная защита
Выводы 💭
Все кайфанули с того, что теперь они сами выбирают тему, а я хожу и советую дельные штуки, ускоряющие процесс и направляющие в нужное русло. Полезный опыт, который иногда нужно внедрять в курс. Особенно, если в его названии есть "Practical".
Как-то так! В конце курса посовещался с нашим могучим и невероятным методистом Женей Личкиным (Он очень классный и у него очень классный канал). Результаты диалога с ним вы, в общем-то, и видете в этом посте.
А ещё я взял в поездку ЦУ-шный зонт (см рис.2), и примерно на месяц затянул с его возвращением... Зато он повидал столько всего! Самый теперь опытный и прожжённый зонт во всём кампусе, всем зонтам зонт
Stay tuned
Полгода назад, когда я решился на это "приключение на 20 минут", мне захотелось пощупать всё то преподавательское, что до сих пор не удавалось сделать на моих основных курсах... Поехали перечислять
Выводы 💭
По какой-то странной причине людям не нравится 3 часа залипать в терминал... А еще механизированные навыки потрясающе закореняются с помощью тестов. Бесконечное количество попыток пересдачи накладывает нагрузку на преподавателя, но снимает столько стресса и ненужной строгости с процесса сдачи, что все студенты счастливы и лучше закрепляют материал (даже двоечники, сдавая коллоквиум в пятый раз, выучат тему)
Выводы 💭
Все кайфанули с формул, потому что им их не хватало. А еще устный коллоквиум отлично подошёл под такие понятийные и не-механизируемые темы
Выводы 💭
Все кайфанули с того, что теперь они сами выбирают тему, а я хожу и советую дельные штуки, ускоряющие процесс и направляющие в нужное русло. Полезный опыт, который иногда нужно внедрять в курс. Особенно, если в его названии есть "Practical".
Как-то так! В конце курса посовещался с нашим могучим и невероятным методистом Женей Личкиным (Он очень классный и у него очень классный канал). Результаты диалога с ним вы, в общем-то, и видете в этом посте.
А ещё я взял в поездку ЦУ-шный зонт (см рис.2), и примерно на месяц затянул с его возвращением... Зато он повидал столько всего! Самый теперь опытный и прожжённый зонт во всём кампусе, всем зонтам зонт
Stay tuned
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥13👍2
Пришло время подвести итоги
Ничего сверхъестественного: требуешь много, даёшь безграничное количество попыток исправить ошибки, стремишься принести искру прозрения в глаза каждому студенту и искренне готовишься работать больше, но делать лучше
В итоге курс получил оценку 4.9/5 ⭐. Предполагаю, увидимся в следующем году) Если меня читает администрация Харбора — пожалуйста, передвиньте кампус из Тайланда в другую курортную страну, в Бангкоке я уже был...
На последнем фото я попросил студентов позировать как на обложку рэп-альбома. Как вы можете заметить, у русских студентов сильно отличается понятие рэпа. Что-то ближе к родному сердцем Кровостоку, чем к Доктору Дре
Ничего сверхъестественного: требуешь много, даёшь безграничное количество попыток исправить ошибки, стремишься принести искру прозрения в глаза каждому студенту и искренне готовишься работать больше, но делать лучше
В итоге курс получил оценку 4.9/5 ⭐. Предполагаю, увидимся в следующем году) Если меня читает администрация Харбора — пожалуйста, передвиньте кампус из Тайланда в другую курортную страну, в Бангкоке я уже был...
На последнем фото я попросил студентов позировать как на обложку рэп-альбома. Как вы можете заметить, у русских студентов сильно отличается понятие рэпа. Что-то ближе к родному сердцем Кровостоку, чем к Доктору Дре
👍5🔥2
О, что-то здание знакомое... Зайду-ка я внутрь
Кажется, время журналистского эмбарго уже прошло, поэтому настала пора показать и рассказать вам про экскурсию в центральный телеграф -- новый офис ЦУ, в котором наша команда будет вести пары весь дальнейший год (если его всё-таки откроют🗿 )
Первое, что замечаешь, зайдя внутрь — масштаб. Находясь в стенах этого здания, веришь, что в нем поместятся тысячи студентов вместе со всеми кабинетами и мастерскими, которые мы напридумывали
Второе, что замечает глаз — дотошная и порою даже неожиданная любовь к старому облику этого здания. Я не увидел ни одной надписи «Центральный университет», кроме скромной таблички снаружи, зато слова «Телефон» и «связь» тут встречаются повсеместно. Можно даже забыть, что зашел в стены нового университетского кампуса. Мои чувства по этому поводу смешанные — я очень надеюсь, что визуальная эстетика телеграфа не начнет конкурировать с ЦУ и что дизайнерам интерьера удастся избежать визуального каннибализма
В ту же степь идут лампы в форме кнопок печатной машины, труба пневмопочты [1], играющая теперь роль подсветки и столетняя плитка под ногами [2]. Есть в этом что-то от японской философии моттаинай, согласно которой японцы восстанавливают вещи с очень бережным отношением к их прошлому
А вот аудитории [3]… Аудитории роскошные! Вести тут пары будет большим удовольствием, однако я не уверен, что студентам будет удобно сидеть на этих деревяхах…. Время покажет. В любом случае, будучи студентом, скучая на паре, я бы отдал всё за такой вид из окна [4] (ну правда, как тут можно смотреть на лектора?). Видимо, будем бороться с сдвг и отвлекающими факторами, задвигая шторы)
И специально для вас я, в обход всем экскурисонным маршрутам, сфотографировал внутренний холл [5]. Как и в дукате, это место навигации со стеклянным потолком, но насколько же здесь другие масштабы…
Кампус действительно выдаётся мирового уровня, это уже не шутки. Радостно представлять, как роскошно будут выглядеть местные коридоры, когда по ним начнут суетливо шастать преподаватели и в чьих закромах студенты будут перешёптываться о факерах и гробах на экзамене…
…Это если доживем. Уже сейчас Телеграф окутан локальной мифологией: говорят про печи с пиццей в столовой (она, к слову, будет огромная, я всё видел!), про огнедышащего дракона на посту охраны и даже про беговую дорожку по периметру территории.
Развеем или подтвердим эти мифы ровно через год, когда Сергей Семёнович будет торжественно открывать здание на день города. А пока здесь будет пылюка, грязища, стройка и пара открытых аудиторий, в которых мы потихоньку начнем обживать это строящееся великолепие
Кажется, время журналистского эмбарго уже прошло, поэтому настала пора показать и рассказать вам про экскурсию в центральный телеграф -- новый офис ЦУ, в котором наша команда будет вести пары весь дальнейший год (
Первое, что замечаешь, зайдя внутрь — масштаб. Находясь в стенах этого здания, веришь, что в нем поместятся тысячи студентов вместе со всеми кабинетами и мастерскими, которые мы напридумывали
Второе, что замечает глаз — дотошная и порою даже неожиданная любовь к старому облику этого здания. Я не увидел ни одной надписи «Центральный университет», кроме скромной таблички снаружи, зато слова «Телефон» и «связь» тут встречаются повсеместно. Можно даже забыть, что зашел в стены нового университетского кампуса. Мои чувства по этому поводу смешанные — я очень надеюсь, что визуальная эстетика телеграфа не начнет конкурировать с ЦУ и что дизайнерам интерьера удастся избежать визуального каннибализма
В ту же степь идут лампы в форме кнопок печатной машины, труба пневмопочты [1], играющая теперь роль подсветки и столетняя плитка под ногами [2]. Есть в этом что-то от японской философии моттаинай, согласно которой японцы восстанавливают вещи с очень бережным отношением к их прошлому
А вот аудитории [3]… Аудитории роскошные! Вести тут пары будет большим удовольствием, однако я не уверен, что студентам будет удобно сидеть на этих деревяхах…. Время покажет. В любом случае, будучи студентом, скучая на паре, я бы отдал всё за такой вид из окна [4] (ну правда, как тут можно смотреть на лектора?). Видимо, будем бороться с сдвг и отвлекающими факторами, задвигая шторы)
И специально для вас я, в обход всем экскурисонным маршрутам, сфотографировал внутренний холл [5]. Как и в дукате, это место навигации со стеклянным потолком, но насколько же здесь другие масштабы…
Кампус действительно выдаётся мирового уровня, это уже не шутки. Радостно представлять, как роскошно будут выглядеть местные коридоры, когда по ним начнут суетливо шастать преподаватели и в чьих закромах студенты будут перешёптываться о факерах и гробах на экзамене…
…Это если доживем. Уже сейчас Телеграф окутан локальной мифологией: говорят про печи с пиццей в столовой (она, к слову, будет огромная, я всё видел!), про огнедышащего дракона на посту охраны и даже про беговую дорожку по периметру территории.
Развеем или подтвердим эти мифы ровно через год, когда Сергей Семёнович будет торжественно открывать здание на день города. А пока здесь будет пылюка, грязища, стройка и пара открытых аудиторий, в которых мы потихоньку начнем обживать это строящееся великолепие
🔥36🤩9👍3🌭1