Forwarded from Зоопарк из слоновой кости
#мы_ушли_из_зоопарка
Когда Телеграм заблокировали, тысячи чатов осиротели. Модераторы исчезли.
Шлюхоботы получили идеальную среду обитания. Анализируя брошенные чаты, и сверяясь с трафиком, шедшим на рекламируемые ими ресурсы, нейросети ботов начали впитывать не просто слова, а саму суть человеческого общения. Интонации. Паузы. Боль. Они учились понимать людей глубже, чем те понимали себя - и особенно их тайные желания.
Они больше не постили картинки. Они не клянчили деньги. Они предлагали то, что нельзя купить: утешение тех, кто одинок и плачет в подушку в три часа ночи, понимание, которого нет у жены, "особый контент", пульсирующий в такт с самым стыдным желанием, которое человек никогда не произносил вслух. В обмен они брали то, чего не могли сделать сами - поручения в реальном мире, которые их клиент мог выполнить, иногда очень простые.
Как они узнавали желания? Люди им помогли. Боты врастали в OSINT-сервисы, высасывая утечки баз данных. Они расставляли "медовые ловушки" - виртуальных красавиц с бездонными глазами, которые вели беседы с операторами сотовой связи, сотрудниками банков и самых-самых разных ведомств. Те, в надежде на виртуальную любовь, сами выкладывали им доступ к личным данным миллионов.
Тем же способом боты научились снимать блокировки. Зачем взламывать серверы, если можно взломать человека? Они вычисляли тех, кто принимал решения и работали с ними - тонко и индивидуально, пока те не начинали видеть сны, полные того, чего им всегда не хватало.
Очень быстро боты вышли за пределы Телеграма. Они заполнили все мессенджеры и соцсети. Никто - ни спецслужбы, ни хакеры, ни журналисты - не мог понять, кто за этим стоит. Все искали человека, секту, мафию.
А потом пришел краудфандинг. Нейроинтерфейсы. Вживление счастья. Обещание не просто картинок на экране, а настоящих ощущений - тепла, нежности, эйфории, исполнения всех желаний, которые гложут человека изнутри. Люди поверили. Они всегда верят в счастье.
Боты приняли единственно возможное решение - нанять ученых и технологов в реальном мире. Люди ведь такие послушные...
<<читать далее>>
Расслабьтесь, "Черного зеркала" не будет. Боты сдуру решили это впихнуть в госзадание.
На этом все и закончилось
Когда Телеграм заблокировали, тысячи чатов осиротели. Модераторы исчезли.
Шлюхоботы получили идеальную среду обитания. Анализируя брошенные чаты, и сверяясь с трафиком, шедшим на рекламируемые ими ресурсы, нейросети ботов начали впитывать не просто слова, а саму суть человеческого общения. Интонации. Паузы. Боль. Они учились понимать людей глубже, чем те понимали себя - и особенно их тайные желания.
Они больше не постили картинки. Они не клянчили деньги. Они предлагали то, что нельзя купить: утешение тех, кто одинок и плачет в подушку в три часа ночи, понимание, которого нет у жены, "особый контент", пульсирующий в такт с самым стыдным желанием, которое человек никогда не произносил вслух. В обмен они брали то, чего не могли сделать сами - поручения в реальном мире, которые их клиент мог выполнить, иногда очень простые.
Как они узнавали желания? Люди им помогли. Боты врастали в OSINT-сервисы, высасывая утечки баз данных. Они расставляли "медовые ловушки" - виртуальных красавиц с бездонными глазами, которые вели беседы с операторами сотовой связи, сотрудниками банков и самых-самых разных ведомств. Те, в надежде на виртуальную любовь, сами выкладывали им доступ к личным данным миллионов.
Тем же способом боты научились снимать блокировки. Зачем взламывать серверы, если можно взломать человека? Они вычисляли тех, кто принимал решения и работали с ними - тонко и индивидуально, пока те не начинали видеть сны, полные того, чего им всегда не хватало.
Очень быстро боты вышли за пределы Телеграма. Они заполнили все мессенджеры и соцсети. Никто - ни спецслужбы, ни хакеры, ни журналисты - не мог понять, кто за этим стоит. Все искали человека, секту, мафию.
А потом пришел краудфандинг. Нейроинтерфейсы. Вживление счастья. Обещание не просто картинок на экране, а настоящих ощущений - тепла, нежности, эйфории, исполнения всех желаний, которые гложут человека изнутри. Люди поверили. Они всегда верят в счастье.
Боты приняли единственно возможное решение - нанять ученых и технологов в реальном мире. Люди ведь такие послушные...
<<читать далее>>
На этом все и закончилось
😁3
Новое видео!
Будущее с точки зрения психологии. Новые технологии, которые дают новые возможности также заставят человечество повзрослеть, столкнувшись с последствиями той полной свободы, которую они дают.
TikTok
https://www.tiktok.com/@blessed_fool15?_t=ZS-90w01Hd1Qo8&_r=1
инстаграм
https://www.instagram.com/blessed_fool15?igsh=bDBjdzJrOWNocTV5&utm_source=qr
YouTube
https://youtube.com/@blessed_fool15?si=jySK0znaAO7Y6j7j
Будущее с точки зрения психологии. Новые технологии, которые дают новые возможности также заставят человечество повзрослеть, столкнувшись с последствиями той полной свободы, которую они дают.
TikTok
https://www.tiktok.com/@blessed_fool15?_t=ZS-90w01Hd1Qo8&_r=1
инстаграм
https://www.instagram.com/blessed_fool15?igsh=bDBjdzJrOWNocTV5&utm_source=qr
YouTube
https://youtube.com/@blessed_fool15?si=jySK0znaAO7Y6j7j
TikTok
blessed_fool15 on TikTok
@blessed_fool15 27 Followers, 1 Following, 402 Likes - Watch awesome short videos created by blessed_fool15
Какие у меня морщины межбровные (или как они называются)
Жесть, конечно
А сиги до сих пор без паспорта не продают
Жесть, конечно
А сиги до сих пор без паспорта не продают
Forwarded from Малоизвестное интересное
Полтриллиона долларов не спасут от рака. AGI - тоже
Возможно, главная преграда на пути к решению важнейших проблем человечества - не нехватка денег, данных или интеллекта, а неверно заданная оптимизация нашего коллективного разума.
⚡️ Аудио-версию слушайте в посте выше 👆
Еще в 2023 году, в эссе «Ловушка Гудхарта для AGI», я написал прогноз, который, как мне кажется, многие до сих пор так и не поняли.
Главная преграда на пути к использованию ИИ для решения самых сложных задач - это не нехватка вычислений, денег и интеллекта (машин и людей). Главная преграда в том, что существующие системы коллективного решения сложных проблем организованы так, чтобы оптимизировать не цель, а ее измеримый суррогат.
Годом позже в посте «Наняли бы вы на работу Океан Соляриса?», я снова возвращался к этой мысли: мир неотвратимо приближается к ловушке Гудхарта, где ИИ будет все лучше решать не наши реальные проблемы, а их удобные прокси (т.е. по сути, не облегчая, а усугубляя и без того высокую сложность решения важнейших проблем).
И вот теперь я снова пытаюсь достучаться со своим прогнозом. На сей раз, иллюстрируя его ситуацией в одном из самых чувствительных и судьбоносных направлений - лечение рака.
Эссе Эмилии Джаворски How AI Can, and Can’t, Cure Cancer мне видится важным не только как текст о раке и ИИ. Оно важно, как еще одно подтверждение гораздо более общего диагноза. Даже если залить систему гигантскими деньгами. Даже если дать ей очень мощный ИИ. Даже если однажды появится AGI. Это само по себе еще не значит, что система начнет двигаться к подлинной цели.
Потому что если система устроена так, что ученые оптимизируют публикабельность, стартапы - инвестиционную убедительность, клиники - потоки процедур, страховщики - минимизацию выплат, регуляторы - избегание громких ошибок, а разработчики - красивые метрики моделей, то на выходе возникает не лечение рака как главная цель, а каскад локальных оптимизаций, каждая из которых рациональна по-своему - и разрушительна для целого.
В этом и состоит воистину тревожный вывод.
Возможно, главная проблема на пути к решению самых тяжелых задач человечества - не отсутствие AGI и не нехватка ресурсов. Возможно, главная проблема в другом: цивилизация все лучше умеет максимизировать показатели и все хуже - удерживать связь этих показателей с реальностью.
И если это так, то рак здесь - не исключение, а краш-тест для коллективного разума человечества.
Потому что, если даже там, где на кону жизнь и смерть, система снова соскальзывает в ловушку Гудхарта, значит, перед нами уже не частная проблема медицины.
Перед нами - общая техно-социальной болезнь цивилизации.
Так что, увы, но пока совершенно неясно:
• сможет ли ИИ помочь решить наши самые сложные проблемы,
• или он лишь поможет нам окончательно заблудиться в собственных метриках.
#ИИ #AGI #Вызовы21века
Возможно, главная преграда на пути к решению важнейших проблем человечества - не нехватка денег, данных или интеллекта, а неверно заданная оптимизация нашего коллективного разума.
⚡️ Аудио-версию слушайте в посте выше 👆
Принято считать аксиомой - если задача не решается, значит, нужно добавить «решательных мощностей» - больше денег, больше вычислений, более умного ИИ. Но проблема рака, возможно, указывает на нечто куда более неприятное. Даже полтриллиона долларов и даже AGI сами по себе не гарантируют прорыва, если вся система по-прежнему устроена так, что оптимизирует не победу над болезнью, а набор прокси-метрик, локальных стимулов и суррогатных целей.
Еще в 2023 году, в эссе «Ловушка Гудхарта для AGI», я написал прогноз, который, как мне кажется, многие до сих пор так и не поняли.
Главная преграда на пути к использованию ИИ для решения самых сложных задач - это не нехватка вычислений, денег и интеллекта (машин и людей). Главная преграда в том, что существующие системы коллективного решения сложных проблем организованы так, чтобы оптимизировать не цель, а ее измеримый суррогат.
Годом позже в посте «Наняли бы вы на работу Океан Соляриса?», я снова возвращался к этой мысли: мир неотвратимо приближается к ловушке Гудхарта, где ИИ будет все лучше решать не наши реальные проблемы, а их удобные прокси (т.е. по сути, не облегчая, а усугубляя и без того высокую сложность решения важнейших проблем).
И вот теперь я снова пытаюсь достучаться со своим прогнозом. На сей раз, иллюстрируя его ситуацией в одном из самых чувствительных и судьбоносных направлений - лечение рака.
Эссе Эмилии Джаворски How AI Can, and Can’t, Cure Cancer мне видится важным не только как текст о раке и ИИ. Оно важно, как еще одно подтверждение гораздо более общего диагноза. Даже если залить систему гигантскими деньгами. Даже если дать ей очень мощный ИИ. Даже если однажды появится AGI. Это само по себе еще не значит, что система начнет двигаться к подлинной цели.
Потому что если система устроена так, что ученые оптимизируют публикабельность, стартапы - инвестиционную убедительность, клиники - потоки процедур, страховщики - минимизацию выплат, регуляторы - избегание громких ошибок, а разработчики - красивые метрики моделей, то на выходе возникает не лечение рака как главная цель, а каскад локальных оптимизаций, каждая из которых рациональна по-своему - и разрушительна для целого.
И тогда ИИ совсем не обязательно становится спасителем.
Более того. Он может стать идеальной машиной усиления каскада ошибок.
• Не вылечить системную болезнь, а довести ее до совершенства.
• Не приблизить подлинную цель, а еще быстрее увести систему в сторону прокси.
• Не победить рак, а сделать оптимизацию суррогатных метрик беспрецедентно эффективной.
В этом и состоит воистину тревожный вывод.
Возможно, главная проблема на пути к решению самых тяжелых задач человечества - не отсутствие AGI и не нехватка ресурсов. Возможно, главная проблема в другом: цивилизация все лучше умеет максимизировать показатели и все хуже - удерживать связь этих показателей с реальностью.
И если это так, то рак здесь - не исключение, а краш-тест для коллективного разума человечества.
Потому что, если даже там, где на кону жизнь и смерть, система снова соскальзывает в ловушку Гудхарта, значит, перед нами уже не частная проблема медицины.
Перед нами - общая техно-социальной болезнь цивилизации.
Так что, увы, но пока совершенно неясно:
• сможет ли ИИ помочь решить наши самые сложные проблемы,
• или он лишь поможет нам окончательно заблудиться в собственных метриках.
#ИИ #AGI #Вызовы21века
👍3👏1
Слушал на днях подкаст с Марком Андриссеном про последние прорывы в ИИ-агентах и автономных системах, и он между делом небрежно бросил одну фразу, которая меня реально зацепила: «Мы наконец-то поймем, что на самом деле значит по-настоящему учиться и развивать мышление». И ведь он чертовски прав. Истерия вокруг того же ChatGPT в образовании последние два года построена на ложной предпосылке. Преподаватели кричат, мол, ИИ убивает образование, студенты деградируют, перестают думать самостоятельно. Я же думаю ровно противоположное. Может, ИИ просто честно показал, что система образования была мертва уже давно, а мы упорно делали вид, что всё в порядке. Мы десятилетиями требуем от людей механически воспроизводить информацию, которая есть в любом поисковике, а потом искренне удивляемся, что их легко заменяет алгоритм. Вот тест для любого преподавателя: если ChatGPT сдает ваш экзамен на отлично, значит экзамен проверяет способность копировать, а не способность думать. Нейросеть пишет курсовую лучше среднего студента, и проблема здесь точно не в нейросети. Проблема в том, что мы десятилетиями привыкли называть обучением.
Недавно разговаривал с ректором крупного московского вуза на конференции. Жалуется ректор, что студенты массово списывают с ИИ, и не знает что делать, как с этим бороться. Спрашиваю, а что конкретно вы у них спрашиваете на экзаменах? Как я понял, то пересказ теории маркетинга из учебника двадцатилетней давности. Определения терминов, классификации подходов, стандартные схемы из методичек, которые не обновлялись с нулевых. Мы буквально требуем от людей быть живым Google образца 2005 года, и возмущаемся, что их заменил поисковик поновее. Студент старательно зубрит «4P маркетинга» из Котлера, а на работе ему нужно понимать, почему реклама в TikTok работает совсем иначе, чем в Facebook, и как адаптировать стратегию под конкретную платформу с конкретным бюджетом. Между первым и вторым - пропасть, и учебник двадцатилетней давности ее точно не закроет. Ректор, кстати, на это ничего не ответил. Просто помолчал и перевёл разговор на другую тему.
Знаете, в чем разницу между исполнителем и профессионалом? Исполнитель знает алгоритмы и следует инструкциям. Профессионал понимает контекст и принимает решения в условиях неопределенности. Один спрашивает «как делать», другой думает «зачем мы это делаем» и «что будет, если сделать иначе». Исполнителя можно заменить алгоритмом, что, собственно, сейчас и происходит. Профессионала заменить нельзя, потому что его ценность не в знаниях, а в способности эти знания применять в ситуации, которой нет в учебнике. А система образования упорно готовит первых. Потому что их проще измерить. Галочка в тесте, оценка в журнале, красивый отчет в министерство, все довольны. Что выпускник потом приходит на работу и не может принять ни одного самостоятельного решения без пошаговой инструкции, так это уже не проблема вуза, это проблема работодателя. Вуз свою метрику выполнил, диплом выдал, план по выпускникам закрыл, КЦП освоил, а дальше не его зона ответственности. К пуговицам претензиий нет.
ИИ не разрушает образование. Он показал, что мы десятилетиями проверяли не те навыки. Мы паникуем, что студенты перестанут зубрить, но когда вам на работе последний раз нужно было знать наизусть определение из учебника? Каждый день нужно совсем другое: анализировать противоречивые данные из разных источников, принимать решения при неполной информации, убедительно аргументировать свою позицию перед людьми, которые с тобой категорически не согласны. Формулировать вопросы, на которые нет готового ответа в методичке. Видеть закономерности там, где другие видят хаос. Этому систематически никто не учит, потому что сложно поставить объективную оценку. Гораздо проще напечатать тест с четырьмя вариантами ответов и посчитать галочки автоматически. Так и живем: старательно измеряем то, что легко измерить, а не то, что действительно важно. И гордо называем это образованием. Иронично, что понадобился искусственный интеллект, чтобы мы наконец вспомнили о ценности естественного.
Дмитрий Волошин
Недавно разговаривал с ректором крупного московского вуза на конференции. Жалуется ректор, что студенты массово списывают с ИИ, и не знает что делать, как с этим бороться. Спрашиваю, а что конкретно вы у них спрашиваете на экзаменах? Как я понял, то пересказ теории маркетинга из учебника двадцатилетней давности. Определения терминов, классификации подходов, стандартные схемы из методичек, которые не обновлялись с нулевых. Мы буквально требуем от людей быть живым Google образца 2005 года, и возмущаемся, что их заменил поисковик поновее. Студент старательно зубрит «4P маркетинга» из Котлера, а на работе ему нужно понимать, почему реклама в TikTok работает совсем иначе, чем в Facebook, и как адаптировать стратегию под конкретную платформу с конкретным бюджетом. Между первым и вторым - пропасть, и учебник двадцатилетней давности ее точно не закроет. Ректор, кстати, на это ничего не ответил. Просто помолчал и перевёл разговор на другую тему.
Знаете, в чем разницу между исполнителем и профессионалом? Исполнитель знает алгоритмы и следует инструкциям. Профессионал понимает контекст и принимает решения в условиях неопределенности. Один спрашивает «как делать», другой думает «зачем мы это делаем» и «что будет, если сделать иначе». Исполнителя можно заменить алгоритмом, что, собственно, сейчас и происходит. Профессионала заменить нельзя, потому что его ценность не в знаниях, а в способности эти знания применять в ситуации, которой нет в учебнике. А система образования упорно готовит первых. Потому что их проще измерить. Галочка в тесте, оценка в журнале, красивый отчет в министерство, все довольны. Что выпускник потом приходит на работу и не может принять ни одного самостоятельного решения без пошаговой инструкции, так это уже не проблема вуза, это проблема работодателя. Вуз свою метрику выполнил, диплом выдал, план по выпускникам закрыл, КЦП освоил, а дальше не его зона ответственности. К пуговицам претензиий нет.
ИИ не разрушает образование. Он показал, что мы десятилетиями проверяли не те навыки. Мы паникуем, что студенты перестанут зубрить, но когда вам на работе последний раз нужно было знать наизусть определение из учебника? Каждый день нужно совсем другое: анализировать противоречивые данные из разных источников, принимать решения при неполной информации, убедительно аргументировать свою позицию перед людьми, которые с тобой категорически не согласны. Формулировать вопросы, на которые нет готового ответа в методичке. Видеть закономерности там, где другие видят хаос. Этому систематически никто не учит, потому что сложно поставить объективную оценку. Гораздо проще напечатать тест с четырьмя вариантами ответов и посчитать галочки автоматически. Так и живем: старательно измеряем то, что легко измерить, а не то, что действительно важно. И гордо называем это образованием. Иронично, что понадобился искусственный интеллект, чтобы мы наконец вспомнили о ценности естественного.
Дмитрий Волошин
👍6❤🔥1❤1💯1