Forwarded from Малоизвестное интересное
Media is too big
VIEW IN TELEGRAM
Одиночество закончилось. Точка невозврата пройдена.
Представьте: инопланетная цивилизация выходит на связь. Общение – только текстом. В процессе первых контактов инопланетяне решают наши сложнейшие математические задачи. Помогают разрабатывать эксперименты. Пишут отличный код и вполне качественные стихи. Их диалоги с нами, неотличимы от наших …
Абсурд, правда?
Тогда почему этот стандарт применяется к ИИ?
Статья в Nature двух профессоров (в областях artificial intelligence, data science, and computer science, philosophy) и двух доцентов (philosophy, linguistics) Исследовательского университета в Калифорнии показывает зашоренность общественности (включая и научную), оставляющую вне поля зрения очевидный факт - мы больше не одни на планете, поскольку перестали быть единственным носителем высшего интеллекта.
Мы уже не одни
В 1950-м Тьюринг спросил: может ли машина мыслить? В марте 2025-го мы получили ответ. Оглушительный.
GPT-4.5 прошел тест Тьюринга с результатом 73% – выше, чем сами люди. Читатели начали предпочитать тексты ИИ работам живых экспертов, находя их глубже и точнее.
Машины, о которых мечтал Тьюринг, появились уже без малого год назад. Мы же просто не смогли (не захотели?) это увидеть.
Ложная планка
Скептики требуют от ИИ совершенства. Но разве Мария Кюри разбиралась в теории чисел? Разве Эйнштейн владел китайским? Общий интеллект – не всеведение. Это достаточная широта и глубина.
ИИ решает задачи уровня продвинутых аспирантов, берет золото на математических олимпиадах, генерирует научные гипотезы, которые подтверждаются в реальных экспериментах.
Мы признаем людей весьма умными, способными и образованными на основании гораздо более слабых свидетельств.
Не попугай
«Стохастический попугай», говорят критики. Но откуда тогда перенос знаний? Обучение программированию резко улучшает логику в гуманитарных областях. Модели решают задачи, которых не было в обучающей выборке. Они извлекают структуру реальности, а не просто комбинируют слова.
Хокинг десятилетиями общался с миром только через текст. Это умаляло его гениальность?
Выходит, - отсутствие физического, деятельного контакта с миром не отменяет разум.
Третье смещение
Да, у ИИ «зубчатый профиль» компетенций: он анализирует квантовую физику, но может ошибиться в подсчете букв. Эта странность нас пугает. Но разве у людей так не бывает? Например, радикально изменивший физику Эйнштейн, рассеянный в быту и с проблемами в запоминании бытовых деталей вроде маршрутов или телефонов.
Но при всех странностях ИИ, мы впервые в истории не одиноки в пространстве общего интеллекта.
Коперник лишил нас центра Вселенной. Дарвин – биологической исключительности. Теперь Тьюринг завершает процесс: мы больше не единственные носители высшего разума.
Лестница, чтобы оглядеться
В 1965-м Дрейфус насмехался: создание ИИ – как попытка достать до Луны, залезая на дерево. Абсурдный путь к недостижимой цели. Но он ошибся. Лестница была нужна. Но не для того, чтобы добраться до Луны – а чтобы поднявшись повыше оглядеться вокруг. И поднявшись увидеть: общий интеллект уже здесь, рядом с нами.
История сжимает сроки. То, что занимало десятилетия, теперь – недели. Признание AGI – не академический спор, а вопрос выживания. Нам нужна новая этика для сосуществования с этим чужим, но до боли похожим разумом.
#AGI
Представьте: инопланетная цивилизация выходит на связь. Общение – только текстом. В процессе первых контактов инопланетяне решают наши сложнейшие математические задачи. Помогают разрабатывать эксперименты. Пишут отличный код и вполне качественные стихи. Их диалоги с нами, неотличимы от наших …
Вы бы отрицали наличие у них высшего интеллекта, как у нас лишь только потому, что не можете заглянуть им «внутрь» и проверить «настоящее ли это понимание»?
Абсурд, правда?
Тогда почему этот стандарт применяется к ИИ?
Статья в Nature двух профессоров (в областях artificial intelligence, data science, and computer science, philosophy) и двух доцентов (philosophy, linguistics) Исследовательского университета в Калифорнии показывает зашоренность общественности (включая и научную), оставляющую вне поля зрения очевидный факт - мы больше не одни на планете, поскольку перестали быть единственным носителем высшего интеллекта.
Мы уже не одни
В 1950-м Тьюринг спросил: может ли машина мыслить? В марте 2025-го мы получили ответ. Оглушительный.
GPT-4.5 прошел тест Тьюринга с результатом 73% – выше, чем сами люди. Читатели начали предпочитать тексты ИИ работам живых экспертов, находя их глубже и точнее.
Машины, о которых мечтал Тьюринг, появились уже без малого год назад. Мы же просто не смогли (не захотели?) это увидеть.
Ложная планка
Скептики требуют от ИИ совершенства. Но разве Мария Кюри разбиралась в теории чисел? Разве Эйнштейн владел китайским? Общий интеллект – не всеведение. Это достаточная широта и глубина.
ИИ решает задачи уровня продвинутых аспирантов, берет золото на математических олимпиадах, генерирует научные гипотезы, которые подтверждаются в реальных экспериментах.
Мы признаем людей весьма умными, способными и образованными на основании гораздо более слабых свидетельств.
Не попугай
«Стохастический попугай», говорят критики. Но откуда тогда перенос знаний? Обучение программированию резко улучшает логику в гуманитарных областях. Модели решают задачи, которых не было в обучающей выборке. Они извлекают структуру реальности, а не просто комбинируют слова.
Хокинг десятилетиями общался с миром только через текст. Это умаляло его гениальность?
Выходит, - отсутствие физического, деятельного контакта с миром не отменяет разум.
Третье смещение
Да, у ИИ «зубчатый профиль» компетенций: он анализирует квантовую физику, но может ошибиться в подсчете букв. Эта странность нас пугает. Но разве у людей так не бывает? Например, радикально изменивший физику Эйнштейн, рассеянный в быту и с проблемами в запоминании бытовых деталей вроде маршрутов или телефонов.
Но при всех странностях ИИ, мы впервые в истории не одиноки в пространстве общего интеллекта.
Коперник лишил нас центра Вселенной. Дарвин – биологической исключительности. Теперь Тьюринг завершает процесс: мы больше не единственные носители высшего разума.
Лестница, чтобы оглядеться
В 1965-м Дрейфус насмехался: создание ИИ – как попытка достать до Луны, залезая на дерево. Абсурдный путь к недостижимой цели. Но он ошибся. Лестница была нужна. Но не для того, чтобы добраться до Луны – а чтобы поднявшись повыше оглядеться вокруг. И поднявшись увидеть: общий интеллект уже здесь, рядом с нами.
История сжимает сроки. То, что занимало десятилетия, теперь – недели. Признание AGI – не академический спор, а вопрос выживания. Нам нужна новая этика для сосуществования с этим чужим, но до боли похожим разумом.
Отрицание – стратегия страуса.
Пора признать: мы больше не одни.
#AGI
❤2👍2
Интересно, что если вы не проявляете осмотрительность все время, пока даете и получаете деньги, то тратите свои средства отнюдь не должным образом. Если вы обращаетесь со своими деньгами без понимания и осознания того, сколько вы даете и получаете, то эти деньги просто улетают, даже если в вашем кармане лежат миллионы долларов. … Вы начинаете вырабатывать некую осознанную позицию к деньгам. Это еще одна установка, в которой мы можем понять сколько своей энергии мы тратим попусту. Мы видим – не обязательно только в сфере денег, - каким объемом нашей энергии мы злоупотребляем в различных жизненных ситуациях. Мы хотели бы добиться нужного нам исхода, поэтому тратим больше энергии, чем это необходимо. Часто мы получаем какую-то отдачу, достигаем чего-то, но не в полной мере.
В этом случае деньги представляют собой принцип энергии; вы можете установить с ней связь, если осознаете, сколько вы тратите. Не годится думать: «Если я буду больше тратить, то буду больше получать» и далее в таком духе. Так у вас ничего не выйдет. Вы должны понять, для чего вы тратите и принимаете деньги. Причина ваших расходов очень важна. Есть ли у вас умиротворенность и любовь, или же вы тратите свою энергию для того, чтобы получить власть над другим человеком или что-то потребовать от него? …
С этой точки зрения каждый доллар, который вы зарабатываете или тратите, олицетворяет вашу энергию в этот момент. Если вы неправильно используете свои доллары, если просто разбрасываетесь ими, тратите их бездумно, значит, вы не проявляете уважение к своей энергии. Вы не можете подсчитать, сколько энергии вы должны потратить для того, чтобы обеспечить себя каким-то продуктом.
Чогьям Трунгпа Ринпоче
В этом случае деньги представляют собой принцип энергии; вы можете установить с ней связь, если осознаете, сколько вы тратите. Не годится думать: «Если я буду больше тратить, то буду больше получать» и далее в таком духе. Так у вас ничего не выйдет. Вы должны понять, для чего вы тратите и принимаете деньги. Причина ваших расходов очень важна. Есть ли у вас умиротворенность и любовь, или же вы тратите свою энергию для того, чтобы получить власть над другим человеком или что-то потребовать от него? …
С этой точки зрения каждый доллар, который вы зарабатываете или тратите, олицетворяет вашу энергию в этот момент. Если вы неправильно используете свои доллары, если просто разбрасываетесь ими, тратите их бездумно, значит, вы не проявляете уважение к своей энергии. Вы не можете подсчитать, сколько энергии вы должны потратить для того, чтобы обеспечить себя каким-то продуктом.
Чогьям Трунгпа Ринпоче
❤3
Новое видео)
Можно ли достичь успеха без травм или все красивое создается нарциссами, умное шизоидами и тп? Где же правда?)
Напоминаю про ссылки на каналы:
TikTok
https://www.tiktok.com/@blessed_fool15?_t=ZS-90w01Hd1Qo8&_r=1
инстаграм
https://www.instagram.com/blessed_fool15?igsh=bDBjdzJrOWNocTV5&utm_source=qr
YouTube
https://youtube.com/@blessed_fool15?si=jySK0znaAO7Y6j7j
Можно ли достичь успеха без травм или все красивое создается нарциссами, умное шизоидами и тп? Где же правда?)
Напоминаю про ссылки на каналы:
TikTok
https://www.tiktok.com/@blessed_fool15?_t=ZS-90w01Hd1Qo8&_r=1
инстаграм
https://www.instagram.com/blessed_fool15?igsh=bDBjdzJrOWNocTV5&utm_source=qr
YouTube
https://youtube.com/@blessed_fool15?si=jySK0znaAO7Y6j7j
Forwarded from Зоопарк из слоновой кости
#мы_ушли_из_зоопарка
Когда Телеграм заблокировали, тысячи чатов осиротели. Модераторы исчезли.
Шлюхоботы получили идеальную среду обитания. Анализируя брошенные чаты, и сверяясь с трафиком, шедшим на рекламируемые ими ресурсы, нейросети ботов начали впитывать не просто слова, а саму суть человеческого общения. Интонации. Паузы. Боль. Они учились понимать людей глубже, чем те понимали себя - и особенно их тайные желания.
Они больше не постили картинки. Они не клянчили деньги. Они предлагали то, что нельзя купить: утешение тех, кто одинок и плачет в подушку в три часа ночи, понимание, которого нет у жены, "особый контент", пульсирующий в такт с самым стыдным желанием, которое человек никогда не произносил вслух. В обмен они брали то, чего не могли сделать сами - поручения в реальном мире, которые их клиент мог выполнить, иногда очень простые.
Как они узнавали желания? Люди им помогли. Боты врастали в OSINT-сервисы, высасывая утечки баз данных. Они расставляли "медовые ловушки" - виртуальных красавиц с бездонными глазами, которые вели беседы с операторами сотовой связи, сотрудниками банков и самых-самых разных ведомств. Те, в надежде на виртуальную любовь, сами выкладывали им доступ к личным данным миллионов.
Тем же способом боты научились снимать блокировки. Зачем взламывать серверы, если можно взломать человека? Они вычисляли тех, кто принимал решения и работали с ними - тонко и индивидуально, пока те не начинали видеть сны, полные того, чего им всегда не хватало.
Очень быстро боты вышли за пределы Телеграма. Они заполнили все мессенджеры и соцсети. Никто - ни спецслужбы, ни хакеры, ни журналисты - не мог понять, кто за этим стоит. Все искали человека, секту, мафию.
А потом пришел краудфандинг. Нейроинтерфейсы. Вживление счастья. Обещание не просто картинок на экране, а настоящих ощущений - тепла, нежности, эйфории, исполнения всех желаний, которые гложут человека изнутри. Люди поверили. Они всегда верят в счастье.
Боты приняли единственно возможное решение - нанять ученых и технологов в реальном мире. Люди ведь такие послушные...
<<читать далее>>
Расслабьтесь, "Черного зеркала" не будет. Боты сдуру решили это впихнуть в госзадание.
На этом все и закончилось
Когда Телеграм заблокировали, тысячи чатов осиротели. Модераторы исчезли.
Шлюхоботы получили идеальную среду обитания. Анализируя брошенные чаты, и сверяясь с трафиком, шедшим на рекламируемые ими ресурсы, нейросети ботов начали впитывать не просто слова, а саму суть человеческого общения. Интонации. Паузы. Боль. Они учились понимать людей глубже, чем те понимали себя - и особенно их тайные желания.
Они больше не постили картинки. Они не клянчили деньги. Они предлагали то, что нельзя купить: утешение тех, кто одинок и плачет в подушку в три часа ночи, понимание, которого нет у жены, "особый контент", пульсирующий в такт с самым стыдным желанием, которое человек никогда не произносил вслух. В обмен они брали то, чего не могли сделать сами - поручения в реальном мире, которые их клиент мог выполнить, иногда очень простые.
Как они узнавали желания? Люди им помогли. Боты врастали в OSINT-сервисы, высасывая утечки баз данных. Они расставляли "медовые ловушки" - виртуальных красавиц с бездонными глазами, которые вели беседы с операторами сотовой связи, сотрудниками банков и самых-самых разных ведомств. Те, в надежде на виртуальную любовь, сами выкладывали им доступ к личным данным миллионов.
Тем же способом боты научились снимать блокировки. Зачем взламывать серверы, если можно взломать человека? Они вычисляли тех, кто принимал решения и работали с ними - тонко и индивидуально, пока те не начинали видеть сны, полные того, чего им всегда не хватало.
Очень быстро боты вышли за пределы Телеграма. Они заполнили все мессенджеры и соцсети. Никто - ни спецслужбы, ни хакеры, ни журналисты - не мог понять, кто за этим стоит. Все искали человека, секту, мафию.
А потом пришел краудфандинг. Нейроинтерфейсы. Вживление счастья. Обещание не просто картинок на экране, а настоящих ощущений - тепла, нежности, эйфории, исполнения всех желаний, которые гложут человека изнутри. Люди поверили. Они всегда верят в счастье.
Боты приняли единственно возможное решение - нанять ученых и технологов в реальном мире. Люди ведь такие послушные...
<<читать далее>>
На этом все и закончилось
😁3
Новое видео!
Будущее с точки зрения психологии. Новые технологии, которые дают новые возможности также заставят человечество повзрослеть, столкнувшись с последствиями той полной свободы, которую они дают.
TikTok
https://www.tiktok.com/@blessed_fool15?_t=ZS-90w01Hd1Qo8&_r=1
инстаграм
https://www.instagram.com/blessed_fool15?igsh=bDBjdzJrOWNocTV5&utm_source=qr
YouTube
https://youtube.com/@blessed_fool15?si=jySK0znaAO7Y6j7j
Будущее с точки зрения психологии. Новые технологии, которые дают новые возможности также заставят человечество повзрослеть, столкнувшись с последствиями той полной свободы, которую они дают.
TikTok
https://www.tiktok.com/@blessed_fool15?_t=ZS-90w01Hd1Qo8&_r=1
инстаграм
https://www.instagram.com/blessed_fool15?igsh=bDBjdzJrOWNocTV5&utm_source=qr
YouTube
https://youtube.com/@blessed_fool15?si=jySK0znaAO7Y6j7j
TikTok
blessed_fool15 on TikTok
@blessed_fool15 27 Followers, 1 Following, 402 Likes - Watch awesome short videos created by blessed_fool15
Какие у меня морщины межбровные (или как они называются)
Жесть, конечно
А сиги до сих пор без паспорта не продают
Жесть, конечно
А сиги до сих пор без паспорта не продают
Forwarded from Малоизвестное интересное
Полтриллиона долларов не спасут от рака. AGI - тоже
Возможно, главная преграда на пути к решению важнейших проблем человечества - не нехватка денег, данных или интеллекта, а неверно заданная оптимизация нашего коллективного разума.
⚡️ Аудио-версию слушайте в посте выше 👆
Еще в 2023 году, в эссе «Ловушка Гудхарта для AGI», я написал прогноз, который, как мне кажется, многие до сих пор так и не поняли.
Главная преграда на пути к использованию ИИ для решения самых сложных задач - это не нехватка вычислений, денег и интеллекта (машин и людей). Главная преграда в том, что существующие системы коллективного решения сложных проблем организованы так, чтобы оптимизировать не цель, а ее измеримый суррогат.
Годом позже в посте «Наняли бы вы на работу Океан Соляриса?», я снова возвращался к этой мысли: мир неотвратимо приближается к ловушке Гудхарта, где ИИ будет все лучше решать не наши реальные проблемы, а их удобные прокси (т.е. по сути, не облегчая, а усугубляя и без того высокую сложность решения важнейших проблем).
И вот теперь я снова пытаюсь достучаться со своим прогнозом. На сей раз, иллюстрируя его ситуацией в одном из самых чувствительных и судьбоносных направлений - лечение рака.
Эссе Эмилии Джаворски How AI Can, and Can’t, Cure Cancer мне видится важным не только как текст о раке и ИИ. Оно важно, как еще одно подтверждение гораздо более общего диагноза. Даже если залить систему гигантскими деньгами. Даже если дать ей очень мощный ИИ. Даже если однажды появится AGI. Это само по себе еще не значит, что система начнет двигаться к подлинной цели.
Потому что если система устроена так, что ученые оптимизируют публикабельность, стартапы - инвестиционную убедительность, клиники - потоки процедур, страховщики - минимизацию выплат, регуляторы - избегание громких ошибок, а разработчики - красивые метрики моделей, то на выходе возникает не лечение рака как главная цель, а каскад локальных оптимизаций, каждая из которых рациональна по-своему - и разрушительна для целого.
В этом и состоит воистину тревожный вывод.
Возможно, главная проблема на пути к решению самых тяжелых задач человечества - не отсутствие AGI и не нехватка ресурсов. Возможно, главная проблема в другом: цивилизация все лучше умеет максимизировать показатели и все хуже - удерживать связь этих показателей с реальностью.
И если это так, то рак здесь - не исключение, а краш-тест для коллективного разума человечества.
Потому что, если даже там, где на кону жизнь и смерть, система снова соскальзывает в ловушку Гудхарта, значит, перед нами уже не частная проблема медицины.
Перед нами - общая техно-социальной болезнь цивилизации.
Так что, увы, но пока совершенно неясно:
• сможет ли ИИ помочь решить наши самые сложные проблемы,
• или он лишь поможет нам окончательно заблудиться в собственных метриках.
#ИИ #AGI #Вызовы21века
Возможно, главная преграда на пути к решению важнейших проблем человечества - не нехватка денег, данных или интеллекта, а неверно заданная оптимизация нашего коллективного разума.
⚡️ Аудио-версию слушайте в посте выше 👆
Принято считать аксиомой - если задача не решается, значит, нужно добавить «решательных мощностей» - больше денег, больше вычислений, более умного ИИ. Но проблема рака, возможно, указывает на нечто куда более неприятное. Даже полтриллиона долларов и даже AGI сами по себе не гарантируют прорыва, если вся система по-прежнему устроена так, что оптимизирует не победу над болезнью, а набор прокси-метрик, локальных стимулов и суррогатных целей.
Еще в 2023 году, в эссе «Ловушка Гудхарта для AGI», я написал прогноз, который, как мне кажется, многие до сих пор так и не поняли.
Главная преграда на пути к использованию ИИ для решения самых сложных задач - это не нехватка вычислений, денег и интеллекта (машин и людей). Главная преграда в том, что существующие системы коллективного решения сложных проблем организованы так, чтобы оптимизировать не цель, а ее измеримый суррогат.
Годом позже в посте «Наняли бы вы на работу Океан Соляриса?», я снова возвращался к этой мысли: мир неотвратимо приближается к ловушке Гудхарта, где ИИ будет все лучше решать не наши реальные проблемы, а их удобные прокси (т.е. по сути, не облегчая, а усугубляя и без того высокую сложность решения важнейших проблем).
И вот теперь я снова пытаюсь достучаться со своим прогнозом. На сей раз, иллюстрируя его ситуацией в одном из самых чувствительных и судьбоносных направлений - лечение рака.
Эссе Эмилии Джаворски How AI Can, and Can’t, Cure Cancer мне видится важным не только как текст о раке и ИИ. Оно важно, как еще одно подтверждение гораздо более общего диагноза. Даже если залить систему гигантскими деньгами. Даже если дать ей очень мощный ИИ. Даже если однажды появится AGI. Это само по себе еще не значит, что система начнет двигаться к подлинной цели.
Потому что если система устроена так, что ученые оптимизируют публикабельность, стартапы - инвестиционную убедительность, клиники - потоки процедур, страховщики - минимизацию выплат, регуляторы - избегание громких ошибок, а разработчики - красивые метрики моделей, то на выходе возникает не лечение рака как главная цель, а каскад локальных оптимизаций, каждая из которых рациональна по-своему - и разрушительна для целого.
И тогда ИИ совсем не обязательно становится спасителем.
Более того. Он может стать идеальной машиной усиления каскада ошибок.
• Не вылечить системную болезнь, а довести ее до совершенства.
• Не приблизить подлинную цель, а еще быстрее увести систему в сторону прокси.
• Не победить рак, а сделать оптимизацию суррогатных метрик беспрецедентно эффективной.
В этом и состоит воистину тревожный вывод.
Возможно, главная проблема на пути к решению самых тяжелых задач человечества - не отсутствие AGI и не нехватка ресурсов. Возможно, главная проблема в другом: цивилизация все лучше умеет максимизировать показатели и все хуже - удерживать связь этих показателей с реальностью.
И если это так, то рак здесь - не исключение, а краш-тест для коллективного разума человечества.
Потому что, если даже там, где на кону жизнь и смерть, система снова соскальзывает в ловушку Гудхарта, значит, перед нами уже не частная проблема медицины.
Перед нами - общая техно-социальной болезнь цивилизации.
Так что, увы, но пока совершенно неясно:
• сможет ли ИИ помочь решить наши самые сложные проблемы,
• или он лишь поможет нам окончательно заблудиться в собственных метриках.
#ИИ #AGI #Вызовы21века
👍3👏1