Forwarded from ИскИн позвонит
qT6CZUk9CDR4XM9MVqX_CnrxQBamZOSJ67hzWy_RI9iWs_c_jRltwyWFcHKByYK.gif
12.3 MB
Когда OpenAI показывала SORA - они говорили о том, что в первую очередь эта модель умеет симулировать миры. Ну и тут Google решил показать свое - Genie: Generative Interactive Environments.
Это модель, которая обучена на видосах игр-платформеров (и отдельно на видосах про робототехнику), и может генерировать новые миры где будет управляемый персонаж и аналогичная физика.
Причем видосы, на которых оно учится, не размечены - сеть самая понимает что именно управляемо и какие эффекты это дает.
Цель - дальнейшее обучение агентов, конечно же. Считай, для обучения своего generalist agent'а теперь есть бесконечное количество новых миров.
Но куда интереснее в их публикации последний кусочек. Обучив ту же модель на видео RT1 (помните, я писал раньше про их проект манипуляторов) - они могут генерировать дальше видео совершения манипулятором действий, чтобы обучать роботов. Мало того, пишут, что эта модель отлично симулирует деформируемые объекты, что для классических симуляторов - серьезная проблема.
Это модель, которая обучена на видосах игр-платформеров (и отдельно на видосах про робототехнику), и может генерировать новые миры где будет управляемый персонаж и аналогичная физика.
Причем видосы, на которых оно учится, не размечены - сеть самая понимает что именно управляемо и какие эффекты это дает.
Цель - дальнейшее обучение агентов, конечно же. Считай, для обучения своего generalist agent'а теперь есть бесконечное количество новых миров.
Но куда интереснее в их публикации последний кусочек. Обучив ту же модель на видео RT1 (помните, я писал раньше про их проект манипуляторов) - они могут генерировать дальше видео совершения манипулятором действий, чтобы обучать роботов. Мало того, пишут, что эта модель отлично симулирует деформируемые объекты, что для классических симуляторов - серьезная проблема.
Forwarded from FastSaltTimes.com
Я уже постил пару раз эту картинку от Тима нашего Урбана. Но и повториться не грех, тем более что сегодня был повод
Многие хотят начать новую жизнь с нового года (прямо вот с этого), с понедельника (прямо вот через два дня), с дня рождения, с какой-то значимой даты, есть планы...
Но у многих сидит на плечах жирный и болтливый черт прошлого и пугает, и тормозит, и вспоминает, а ведь можно все же перестать концентрироваться на черных линиях позади и начинать концентрироваться на всех зеленых линиях перед нами. Каждую секунду начинается новый путь. Будущее всегда светло.
И нельзя не вспомнить писателя и альпиниста Уильяма X. Мюррея (1913—1996). В своей книге «Шотландская экспедиция в Гималаи» (1951) он писал:
«До тех пор пока человек окончательно на что-то не решится, всегда остаются сомнения, возможность отступить, бездействие. По поводу любого проявления инициативы существует одна простая истина, незнание которой убивает бесчисленные замыслы и великие идеи: в тот миг, когда человек решительно связывает себя обязательствами, Провидение тоже начинает действовать. В помощь этому человеку случается множество самых разных происшествий, которые иначе никогда бы не случились. Принятое решение влечет за собой целый поток событий: полезных совпадений, встреч и предложений о материальной поддержке, в которые никто и никогда бы не поверил заранее. Я испытал глубокое уважение к одному из двустиший Гете: "Если вы думаете или верите, что на что-то способны, начните делать это. В действии — волшебство, добродетель и сила"».
У Гете, правда, такого двустишья не было, но это уже не суть важно ))
**
👉 Тим Урбан: меня захватили идеи, которые меняют мир
👉 Тим Урбан о любопытстве, VR, ИИ, Маске и криптовалютах
👉 Свадьба в ураган и закон Паркинсона
👉 Ада Палмер: все двери открыты, не верьте, что мир враждебен
👉 Дэвид Брукс: к какой уникальной проблеме подготовила тебя твоя жизнь?
👉 Не забывайте подписываться на FST
👉 Отзывы о нас
Многие хотят начать новую жизнь с нового года (прямо вот с этого), с понедельника (прямо вот через два дня), с дня рождения, с какой-то значимой даты, есть планы...
Но у многих сидит на плечах жирный и болтливый черт прошлого и пугает, и тормозит, и вспоминает, а ведь можно все же перестать концентрироваться на черных линиях позади и начинать концентрироваться на всех зеленых линиях перед нами. Каждую секунду начинается новый путь. Будущее всегда светло.
И нельзя не вспомнить писателя и альпиниста Уильяма X. Мюррея (1913—1996). В своей книге «Шотландская экспедиция в Гималаи» (1951) он писал:
«До тех пор пока человек окончательно на что-то не решится, всегда остаются сомнения, возможность отступить, бездействие. По поводу любого проявления инициативы существует одна простая истина, незнание которой убивает бесчисленные замыслы и великие идеи: в тот миг, когда человек решительно связывает себя обязательствами, Провидение тоже начинает действовать. В помощь этому человеку случается множество самых разных происшествий, которые иначе никогда бы не случились. Принятое решение влечет за собой целый поток событий: полезных совпадений, встреч и предложений о материальной поддержке, в которые никто и никогда бы не поверил заранее. Я испытал глубокое уважение к одному из двустиший Гете: "Если вы думаете или верите, что на что-то способны, начните делать это. В действии — волшебство, добродетель и сила"».
У Гете, правда, такого двустишья не было, но это уже не суть важно ))
**
👉 Тим Урбан: меня захватили идеи, которые меняют мир
👉 Тим Урбан о любопытстве, VR, ИИ, Маске и криптовалютах
👉 Свадьба в ураган и закон Паркинсона
👉 Ада Палмер: все двери открыты, не верьте, что мир враждебен
👉 Дэвид Брукс: к какой уникальной проблеме подготовила тебя твоя жизнь?
👉 Не забывайте подписываться на FST
👉 Отзывы о нас
Forwarded from Сиолошная
🚨Новый длиннопост🚨
В середине февраля в мире AI произошло много событий, но все они были затмлены демонстрацией новой модели OpenAI. На сей раз калифорнийская компания удивила всех качественным прорывом в области text-2-video.
Пока другие исследователи старались довести количество пальцев на руках сгенерированных людей до пяти (а члены гильдии актёров противостояли им), в OpenAI решили замахнуться на короткие (до минуты), но высококачественные и детализированные ролики — и, чёрт возьми, у них получилось!
Но не всё так однозначно — вот как думаете, зачем им понадобилось отнимать хлеб у ютуберов? На самом деле, модель OpenAI была разработана не для замены актёров, специалистов по графике и даже не для мошенников из службы безопасности Сбербанка, горящих желанием набрать вас по видеосвязи от лица Германа Грефа. И, нет, оживление мемов тоже не входит в список приоритетных задач.
▀▀▀▀▀▀▀▀▀▀
Про истинную причину разработки Sora и про будущее модели читайте по ссылке:
https://habr.com/ru/articles/794566/
▀▀▀▀▀▀▀▀▀▀
Отдельная благодарность Павлу Комаровскому @RationalAnswer за (уже далеко не первую) помощь в редактуре и подготовке материала — не забывайте подписываться и на него.
В середине февраля в мире AI произошло много событий, но все они были затмлены демонстрацией новой модели OpenAI. На сей раз калифорнийская компания удивила всех качественным прорывом в области text-2-video.
Пока другие исследователи старались довести количество пальцев на руках сгенерированных людей до пяти (а члены гильдии актёров противостояли им), в OpenAI решили замахнуться на короткие (до минуты), но высококачественные и детализированные ролики — и, чёрт возьми, у них получилось!
Но не всё так однозначно — вот как думаете, зачем им понадобилось отнимать хлеб у ютуберов? На самом деле, модель OpenAI была разработана не для замены актёров, специалистов по графике и даже не для мошенников из службы безопасности Сбербанка, горящих желанием набрать вас по видеосвязи от лица Германа Грефа. И, нет, оживление мемов тоже не входит в список приоритетных задач.
▀▀▀▀▀▀▀▀▀▀
Про истинную причину разработки Sora и про будущее модели читайте по ссылке:
https://habr.com/ru/articles/794566/
▀▀▀▀▀▀▀▀▀▀
Отдельная благодарность Павлу Комаровскому @RationalAnswer за (уже далеко не первую) помощь в редактуре и подготовке материала — не забывайте подписываться и на него.
Хабр
Настоящее предназначение OpenAI SORA: как и зачем симулировать «Матрицу» для ChatGPT
Ну что, уже успели прочитать восхищения небывалым качеством видео от нейросетки SORA у всех блогеров и новостных изданий? А теперь мы вам расскажем то, о чем не написал никто: чего на самом деле...
Forwarded from Сиолошная
Forwarded from XOR
Там небезызвестный в ИИ кругах Ян Лекун выдал базу. Да-да, это тот самый перец, фото которого красовалось на башне Бурдж-Халифа со ставкой от властей ОАЭ на привлечение специалиста к себе.
Так вот база:
Язык имеет низкую пропускную способность: менее 12 байт/сек. Человек может прочитать 270 слов/мин, что составляет 12 байт/с (2 байта за токен). Современные модели обычно тренируются на 2х10^13 байтах, что займет для нас около 100.000 лет чтения по 12 часов в сутки.
У зрения же пропускная способность гораздо выше: около 20 МБ/с. Каждый из двух оптических нервов имеет 1 миллион нервных волокон, каждый принимает около 10 байт/с. 4-летний ребенок не спит в общей сложности 16.000 часов, что означает 10^15 байт.
Это говорит нам о трех вещах:
🟢 Текст очень излишен, а визуальные сигналы в оптических нервах еще более избыточны (несмотря на 100-кратно сжатые версии выходов в сетчатке). Но избыточность данных — это *точно* то, что нам нужно для Self-Supervised Learning (SSL - самоконтролируемого обучения), чтобы захватить структуры данных. То есть чем больше избыточность, тем лучше для SSL.
🟢 Большая часть знаний человека (и почти все знания животных) исходит из нашего сенсорного опыта физического мира. Язык - это вишенка на торте. Нам нужен торт для поддержки глазури.
🟢 ИИ никогда не достигнет человеческого уровня без обучения на сенсорных входах с высокой пропускной способностью, таких как зрение.
Да, некоторые люди могут быть умнее остальные, даже будучи одновременно слепым и глухим. Но не без прикосновений, они тоже имеют довольно высокую пропускную способность.
@xor_journal
Так вот база:
Язык имеет низкую пропускную способность: менее 12 байт/сек. Человек может прочитать 270 слов/мин, что составляет 12 байт/с (2 байта за токен). Современные модели обычно тренируются на 2х10^13 байтах, что займет для нас около 100.000 лет чтения по 12 часов в сутки.
У зрения же пропускная способность гораздо выше: около 20 МБ/с. Каждый из двух оптических нервов имеет 1 миллион нервных волокон, каждый принимает около 10 байт/с. 4-летний ребенок не спит в общей сложности 16.000 часов, что означает 10^15 байт.
Другими словами:
- Пропускная способность данных визуального восприятия примерно в 16 млн раз превышает пропускную способность данных письменного (или разговорного) языка.
- Всего за 4 года ребенок увидел в 50 раз больше данных, чем самые крупные LLM, обучаемые по всему тексту, доступному в интернете.
Это говорит нам о трех вещах:
Да, некоторые люди могут быть умнее остальные, даже будучи одновременно слепым и глухим. Но не без прикосновений, они тоже имеют довольно высокую пропускную способность.
@xor_journal
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Квест Теория Каст и Ролей (Alexey Krol)
1. Боги зачистили всех, кто им угрожал, и нет никого, над кем можно властвовать, и тогда был создан мир, чтобы в нем играть.
2. Личность это набор сюжетов, которые мы себе и другим рассказываем. Набор стереотипов, определяющих поведение в паттернах ситуаций.
Я вижу, по крайней мере 5 элемента:
поток событий,
память - как поток интерпритаций того, что мы называем прошлым,
мечты, как поток интерпритаций того, что представляется будущим,
набор сюжетов,
и картина мира, как набор правил.
Да, сюжеты можно рассматривать как сеть смыслов, связывающих все элементы + фактор времени.
3. Машины начинают видеть создателей в снах. Это интересная метафора - штатно машины не только не видят вмешательств, более того: их восприятие мира не непрерывно, а хозяева прячутся в разрывах восприятия.
У одной героини изменение кода позволило восстановить непрерывность восприятия, и она стала видеть то, что иные машины не видели. Нолан замечательный сказочник.
2. Личность это набор сюжетов, которые мы себе и другим рассказываем. Набор стереотипов, определяющих поведение в паттернах ситуаций.
Я вижу, по крайней мере 5 элемента:
поток событий,
память - как поток интерпритаций того, что мы называем прошлым,
мечты, как поток интерпритаций того, что представляется будущим,
набор сюжетов,
и картина мира, как набор правил.
Да, сюжеты можно рассматривать как сеть смыслов, связывающих все элементы + фактор времени.
3. Машины начинают видеть создателей в снах. Это интересная метафора - штатно машины не только не видят вмешательств, более того: их восприятие мира не непрерывно, а хозяева прячутся в разрывах восприятия.
У одной героини изменение кода позволило восстановить непрерывность восприятия, и она стала видеть то, что иные машины не видели. Нолан замечательный сказочник.
Forwarded from Сиолошная
🚨Новый длиннопост🚨
В середине февраля в мире AI произошло много событий, но все они были затмлены демонстрацией новой модели OpenAI. На сей раз калифорнийская компания удивила всех качественным прорывом в области text-2-video.
Пока другие исследователи старались довести количество пальцев на руках сгенерированных людей до пяти (а члены гильдии актёров противостояли им), в OpenAI решили замахнуться на короткие (до минуты), но высококачественные и детализированные ролики — и, чёрт возьми, у них получилось!
Но не всё так однозначно — вот как думаете, зачем им понадобилось отнимать хлеб у ютуберов? На самом деле, модель OpenAI была разработана не для замены актёров, специалистов по графике и даже не для мошенников из службы безопасности Сбербанка, горящих желанием набрать вас по видеосвязи от лица Германа Грефа. И, нет, оживление мемов тоже не входит в список приоритетных задач.
▀▀▀▀▀▀▀▀▀▀
Про истинную причину разработки Sora и про будущее модели читайте по ссылке:
https://habr.com/ru/articles/794566/
▀▀▀▀▀▀▀▀▀▀
Отдельная благодарность Павлу Комаровскому @RationalAnswer за (уже далеко не первую) помощь в редактуре и подготовке материала — не забывайте подписываться и на него.
В середине февраля в мире AI произошло много событий, но все они были затмлены демонстрацией новой модели OpenAI. На сей раз калифорнийская компания удивила всех качественным прорывом в области text-2-video.
Пока другие исследователи старались довести количество пальцев на руках сгенерированных людей до пяти (а члены гильдии актёров противостояли им), в OpenAI решили замахнуться на короткие (до минуты), но высококачественные и детализированные ролики — и, чёрт возьми, у них получилось!
Но не всё так однозначно — вот как думаете, зачем им понадобилось отнимать хлеб у ютуберов? На самом деле, модель OpenAI была разработана не для замены актёров, специалистов по графике и даже не для мошенников из службы безопасности Сбербанка, горящих желанием набрать вас по видеосвязи от лица Германа Грефа. И, нет, оживление мемов тоже не входит в список приоритетных задач.
▀▀▀▀▀▀▀▀▀▀
Про истинную причину разработки Sora и про будущее модели читайте по ссылке:
https://habr.com/ru/articles/794566/
▀▀▀▀▀▀▀▀▀▀
Отдельная благодарность Павлу Комаровскому @RationalAnswer за (уже далеко не первую) помощь в редактуре и подготовке материала — не забывайте подписываться и на него.
Хабр
Настоящее предназначение OpenAI SORA: как и зачем симулировать «Матрицу» для ChatGPT
Ну что, уже успели прочитать восхищения небывалым качеством видео от нейросетки SORA у всех блогеров и новостных изданий? А теперь мы вам расскажем то, о чем не написал никто: чего на самом деле...
🔥1
Forwarded from FastSaltTimes.com
Илон Маск прогнозирует, что в следующем году искусственный интеллект обгонит человеческий интеллект
Возможности новых моделей искусственного интеллекта превзойдут человеческий интеллект к концу следующего года при условии, что поставки электроэнергии и аппаратного обеспечения смогут удовлетворить потребности все более мощных технологий, уверен миллиардер и один из совладельцев компании по разработке ИИ xAI Илон Маск. Об этом сообщает издание The Financial Times.
«Я предполагаю, что у нас будет ИИ, который будет умнее любого человека, вероятно, в конце следующего года», — сказал предприниматель, управляющий компаниями Tesla, X и SpaceX.
За следующие пять лет возможности ИИ, вероятно, превысят возможности всех людей, спрогнозировал Маск в понедельник во время интервью на X с Николаем Тангеном, главным исполнительным директором Norges Bank Investment Management.
Илон Маск последовательно выражает оптимизм относительно развития так называемого искусственного общего интеллекта, инструментов ИИ настолько мощных, что они могут превзойти самых способных людей в любой сфере. Но его последний прогноз опережает графики, о которых он и другие заявляли ранее. В прошлом году он предусмотрел, что «полный» ИИ будет достигнут к 2029 году. Некоторые из самых смелых прогнозов Маска, такие как выпуск самоуправляемых Tesla и посадка ракеты на Марс, еще не сбылись.
Ряд прорывов в области искусственного интеллекта за последние 18 месяцев, включая запуск инструментов для создания видео и более мощных чат-ботов, продвинули границы ИИ вперед быстрее, чем ожидалось. Демис Хассабис, соучредитель Google's DeepMind, ранее в этом году прогнозировал, что всеобъемлющий ИИ может быть достигнут к 2030 году.
Темпы развития замедлялись из-за узкого места в поставках микрочипов, особенно производства Nvidia, необходимых для обучения и запуска моделей ИИ. По словам Маска, эти ограничения сокращаются, а новые модели испытывают другое оборудование центров обработки данных и электросети.
«В прошлом году был дефицит чипов… люди не могли получить достаточное количество чипов Nvidia. В этом году мы переходим на трансформаторное питание. Через год-два [ограничением будет] только снабжение электроэнергией», — сказал он.
Стремление Маска присоединиться к гонке ИИ противоречит его громкой позиции, которую он занял в прошлом году, призывая к паузе в разработке продвинутого искусственного интеллекта. Он предупредил о «глубоких рисках для общества и человечества», которые несут сверхмощные инструменты ИИ, и призвал немедленно приостановить обучение любой системы, мощнее GPT-4 от OpenAI, ведущей модели на рынке.
В понедельник Маск заявил, что его собственный стартап xAI, занимающийся разработкой ИИ, обучает вторую версию своей модели Grok, которая, по мнению разработчиков, должна стать лучше GPT-4. Он добавил, что эта работа должна быть завершена к маю, после чего появится новая, на порядок более мощная модель.
За последний год Илон Маск уделил xAI больше времени и ресурсов. Он пытается привлечь миллиарды долларов от инвесторов в США, на Ближнем Востоке и в Гонконге, чтобы конкурировать с OpenAI, в рамках раунда финансирования, который, по словам экспертов, приблизит компанию к стоимости в $18 млрд.
Маск играет центральную и часто противоречивую роль в разработке новых инструментов искусственного интеллекта за последнее десятилетие.
Он был соучредителем OpenAI в 2015 году, однако покинул компанию в 2018 году после того, как поссорился с генеральным директором и соучредителем Сэмом Альтманом из-за направления исследований.
В марте Маск подал в суд на OpenAI и Альтмана за нарушение контракта, утверждая, что они поставили под угрозу заявленную миссию стартапа – создание ИИ на благо человечества. OpenAI это категорически отрицает.
Возможности новых моделей искусственного интеллекта превзойдут человеческий интеллект к концу следующего года при условии, что поставки электроэнергии и аппаратного обеспечения смогут удовлетворить потребности все более мощных технологий, уверен миллиардер и один из совладельцев компании по разработке ИИ xAI Илон Маск. Об этом сообщает издание The Financial Times.
«Я предполагаю, что у нас будет ИИ, который будет умнее любого человека, вероятно, в конце следующего года», — сказал предприниматель, управляющий компаниями Tesla, X и SpaceX.
За следующие пять лет возможности ИИ, вероятно, превысят возможности всех людей, спрогнозировал Маск в понедельник во время интервью на X с Николаем Тангеном, главным исполнительным директором Norges Bank Investment Management.
Илон Маск последовательно выражает оптимизм относительно развития так называемого искусственного общего интеллекта, инструментов ИИ настолько мощных, что они могут превзойти самых способных людей в любой сфере. Но его последний прогноз опережает графики, о которых он и другие заявляли ранее. В прошлом году он предусмотрел, что «полный» ИИ будет достигнут к 2029 году. Некоторые из самых смелых прогнозов Маска, такие как выпуск самоуправляемых Tesla и посадка ракеты на Марс, еще не сбылись.
Ряд прорывов в области искусственного интеллекта за последние 18 месяцев, включая запуск инструментов для создания видео и более мощных чат-ботов, продвинули границы ИИ вперед быстрее, чем ожидалось. Демис Хассабис, соучредитель Google's DeepMind, ранее в этом году прогнозировал, что всеобъемлющий ИИ может быть достигнут к 2030 году.
Темпы развития замедлялись из-за узкого места в поставках микрочипов, особенно производства Nvidia, необходимых для обучения и запуска моделей ИИ. По словам Маска, эти ограничения сокращаются, а новые модели испытывают другое оборудование центров обработки данных и электросети.
«В прошлом году был дефицит чипов… люди не могли получить достаточное количество чипов Nvidia. В этом году мы переходим на трансформаторное питание. Через год-два [ограничением будет] только снабжение электроэнергией», — сказал он.
Стремление Маска присоединиться к гонке ИИ противоречит его громкой позиции, которую он занял в прошлом году, призывая к паузе в разработке продвинутого искусственного интеллекта. Он предупредил о «глубоких рисках для общества и человечества», которые несут сверхмощные инструменты ИИ, и призвал немедленно приостановить обучение любой системы, мощнее GPT-4 от OpenAI, ведущей модели на рынке.
В понедельник Маск заявил, что его собственный стартап xAI, занимающийся разработкой ИИ, обучает вторую версию своей модели Grok, которая, по мнению разработчиков, должна стать лучше GPT-4. Он добавил, что эта работа должна быть завершена к маю, после чего появится новая, на порядок более мощная модель.
За последний год Илон Маск уделил xAI больше времени и ресурсов. Он пытается привлечь миллиарды долларов от инвесторов в США, на Ближнем Востоке и в Гонконге, чтобы конкурировать с OpenAI, в рамках раунда финансирования, который, по словам экспертов, приблизит компанию к стоимости в $18 млрд.
Маск играет центральную и часто противоречивую роль в разработке новых инструментов искусственного интеллекта за последнее десятилетие.
Он был соучредителем OpenAI в 2015 году, однако покинул компанию в 2018 году после того, как поссорился с генеральным директором и соучредителем Сэмом Альтманом из-за направления исследований.
В марте Маск подал в суд на OpenAI и Альтмана за нарушение контракта, утверждая, что они поставили под угрозу заявленную миссию стартапа – создание ИИ на благо человечества. OpenAI это категорически отрицает.
Forwarded from Метаверсище и ИИще (Sergey Tsyptsyn ️️)
Метаверс, как цифрового двойник нашего мира с разными скинами.
Основная проблема мамкиных метаверсоводов - они не могут придумать, чем занять пользователей в своих кринжовых 3Д-локациях. Не говоря уж о том, как их мотивировать надеть полкиллограма железа на голову, для свидетелей виар-метаверсов.
Эти мерзкие кожаные юзеры готовы либо в игры играть, либо ботов писать, чтобы майнить шиткойны в нфт-метаверсах.
Когда вышла SORA все заговорили о world model. Модели нашего утлого мира (трехмерного притом) в голове у ИИ. Были даже работы о том, что в мозгах у ИИ есть локализованные области, в которых он хранит представления о пространстве и времени.
Но это все подводка.
Смотрите, несколько недель назад в Балтиморе контейнеровоз MV Dali столкнулся с одной из опор огромного моста и расхерачил всесь мост.
Благо у нас теперь везде камеры и видео катастрофы попало в интернетик в тот же день.
Так вот, смышленые ребята взяли все доступные видосы этого крэша, причем из открытых источников) и с помощью Gaussian Splatting сделали полную 3Д-реконструкцию аварии.
Не сгенерили кухонную сцену или смешные фигурки, а, блин, сделали копию кусочка мира в нужное время. По сраным камерам наблюдения.
А коль скоро у нас камеры везде и всюду, то в принципе у нас есть 3Д-модель нашего кожаного мира в 3Д в любой момент времени.
Туда также пристегиваются потоки данных с других датчиков и сенсоров, распознавание ваших унылых личиков, pose estimation и пр. И вот уже параллельный метаверс давно живет рядом с нами в соседних измерениях.
Теперь дайте ему разные скины. И получите мультиметаверсы.
А пока поглядите на видео и реконструкцию аварии в Балтиморе. Я в шоке.
P.S. Я топлю за эту концепцию уже года три, а два года назад упаковал это в плотное интервью с Витей Осыкой. Точнее интервью брал он, а я наваливал за Метаверс. Если интересно, воспроследуйте сюда.
Основная проблема мамкиных метаверсоводов - они не могут придумать, чем занять пользователей в своих кринжовых 3Д-локациях. Не говоря уж о том, как их мотивировать надеть полкиллограма железа на голову, для свидетелей виар-метаверсов.
Эти мерзкие кожаные юзеры готовы либо в игры играть, либо ботов писать, чтобы майнить шиткойны в нфт-метаверсах.
Когда вышла SORA все заговорили о world model. Модели нашего утлого мира (трехмерного притом) в голове у ИИ. Были даже работы о том, что в мозгах у ИИ есть локализованные области, в которых он хранит представления о пространстве и времени.
Но это все подводка.
Смотрите, несколько недель назад в Балтиморе контейнеровоз MV Dali столкнулся с одной из опор огромного моста и расхерачил всесь мост.
Благо у нас теперь везде камеры и видео катастрофы попало в интернетик в тот же день.
Так вот, смышленые ребята взяли все доступные видосы этого крэша, причем из открытых источников) и с помощью Gaussian Splatting сделали полную 3Д-реконструкцию аварии.
Не сгенерили кухонную сцену или смешные фигурки, а, блин, сделали копию кусочка мира в нужное время. По сраным камерам наблюдения.
А коль скоро у нас камеры везде и всюду, то в принципе у нас есть 3Д-модель нашего кожаного мира в 3Д в любой момент времени.
Туда также пристегиваются потоки данных с других датчиков и сенсоров, распознавание ваших унылых личиков, pose estimation и пр. И вот уже параллельный метаверс давно живет рядом с нами в соседних измерениях.
Теперь дайте ему разные скины. И получите мультиметаверсы.
А пока поглядите на видео и реконструкцию аварии в Балтиморе. Я в шоке.
P.S. Я топлю за эту концепцию уже года три, а два года назад упаковал это в плотное интервью с Витей Осыкой. Точнее интервью брал он, а я наваливал за Метаверс. Если интересно, воспроследуйте сюда.
Forwarded from Метаверсище и ИИще (Sergey Tsyptsyn ️️)
This media is not supported in your browser
VIEW IN TELEGRAM
В дополнение ко вчерашнему посту о цифровом двойнике нашего мира.
Да, ИИ-шечка уже умеет вытаскивать позы НЕ ТОЛЬКО из тиктоковских тянок пляшуших на камеру, а способен работать "в полях". И оцифровывать вот этих вот суровых английских мужуков.
Я уже постил похожий кейс с футбольного поля, но там был специально заготовленный сетап из десятков камер и целая команда на бэке.
Тут, как вы понимаете, даже не высшая лига. И обычная камера.
Мы все уже оцифрованы, а метаверсик живет своей жизнью. До времени.
Да, ИИ-шечка уже умеет вытаскивать позы НЕ ТОЛЬКО из тиктоковских тянок пляшуших на камеру, а способен работать "в полях". И оцифровывать вот этих вот суровых английских мужуков.
Я уже постил похожий кейс с футбольного поля, но там был специально заготовленный сетап из десятков камер и целая команда на бэке.
Тут, как вы понимаете, даже не высшая лига. И обычная камера.
Мы все уже оцифрованы, а метаверсик живет своей жизнью. До времени.
Forwarded from Малоизвестное интересное
Визуализирован контур управления болью в стволе мозга.
Важный шаг для превращения в полубогов и решения трудной проблемы сознания.
О том, станет ли элита полубогами, и будут ли они испытывать боль, - год назад я писал следующее (1).
Если можно купить здоровье, интеллект и долголетие, то на это никаких денег не жалко. Если же можно, ко всему прочему, купить и качество жизни, то это вообще блеск.
Но для повышения качества жизни нужно не мало. И самое важное здесь — не депрессия и эрекция (улучшать которые уже кое-как научились), а отсутствие боли.
Хроническая боль возникает в результате сложного и динамического взаимодействия между биологическими, психологическими и социальными факторами. Такая боль является одной из наиболее распространенных проблем со здоровьем человека и затрагивает каждого третьего взрослого.
Поэтому обезболивание превращается в колоссальный бизнес, развивающийся по двум путям: фармакология (новые лекарства от боли) и нефармакологические методы снижения боли за счет внутренних ресурсов человека (назовем это «управление болью»).
То что управление болью работает – многократно экспериментально проверенный факт. Желающие могут изучить метаисследование 52-ух исследований, подтверждающих, что плацебо снижает боль, а ноцебо (такие же пустышки, про которые пациентам говорят, будто они усиливают боль) усиливает (2).
Установлено, что на силу действия плацебо/ноцебо влияют:
• персональные свойства индивида: генетика и характер личности (на экстравертов это действует сильнее, чем на интровертов (3))
• широкий спектр факторов, массово распространенных среди людей:
-- от принятия временной связи за причинно-следственную, когда при обращении к врачу или целителю болит, а по прошествии пары недель уже не болит, т.к. само прошло – возможно, это объясняет гомеопатию);
-- до предвзятости подтверждения и социального обучения (см. (4))
• когнитивные факторы связи конкретного пациента с его окружением (его включенности в социально-когнитивную сеть) – отношения с лечащим врачом, информация от других врачей, от знакомых, что говорят по ТВ, пишут в сети …, - влияющие на доверие пациента к способу лечения и его ожидания результатов лечения (5).
Но каковы бы ни были причины, сам факт возможности управления болью неоспорим.
И хотя механизмы управления болью могут быть разными - от активации опиоидной (и других эндорфинов) системы мозга до временной перекоммутации нейронных сетей, - но сам контур управления болью найти уже удалось (6) с помощью сверхмощной установки фМРТ (7 Тесла).
Впервые удалось визуально выделить контур управления болью, прослеживая движущую силу эффекта плацебо (7):
• перемещение управляющего сигнала от коры головного мозга к группам клеток в стволе мозга;
• последующая модуляция болевых сигналов в спинном мозге.
Это первая экспериментальная демонстрация одного из важнейших процессов в основе Трудной проблемы сознания – мысленное управление физическими ощущениями боли.
✔️ Нематериальные ожидания индивида модулируют материальный управляющий сигнал, формирующийся в коре головного мозга.
✔️ Он активирует область в стволе мозга.
✔️ Она генерирует болевые импульсы, физически воспринимаемые индивидом;
Конечно, выявление контура модуляции боли – это пока еще не управление им.
Но, полагаю, за этим дело не станет. Элита заплатит за возможность избавления от боли такие деньги, что разработчикам ИИ и не снились.
1 2 3 4 5 6 7
#Боль
Важный шаг для превращения в полубогов и решения трудной проблемы сознания.
О том, станет ли элита полубогами, и будут ли они испытывать боль, - год назад я писал следующее (1).
Если можно купить здоровье, интеллект и долголетие, то на это никаких денег не жалко. Если же можно, ко всему прочему, купить и качество жизни, то это вообще блеск.
Но для повышения качества жизни нужно не мало. И самое важное здесь — не депрессия и эрекция (улучшать которые уже кое-как научились), а отсутствие боли.
Хроническая боль возникает в результате сложного и динамического взаимодействия между биологическими, психологическими и социальными факторами. Такая боль является одной из наиболее распространенных проблем со здоровьем человека и затрагивает каждого третьего взрослого.
Поэтому обезболивание превращается в колоссальный бизнес, развивающийся по двум путям: фармакология (новые лекарства от боли) и нефармакологические методы снижения боли за счет внутренних ресурсов человека (назовем это «управление болью»).
То что управление болью работает – многократно экспериментально проверенный факт. Желающие могут изучить метаисследование 52-ух исследований, подтверждающих, что плацебо снижает боль, а ноцебо (такие же пустышки, про которые пациентам говорят, будто они усиливают боль) усиливает (2).
Установлено, что на силу действия плацебо/ноцебо влияют:
• персональные свойства индивида: генетика и характер личности (на экстравертов это действует сильнее, чем на интровертов (3))
• широкий спектр факторов, массово распространенных среди людей:
-- от принятия временной связи за причинно-следственную, когда при обращении к врачу или целителю болит, а по прошествии пары недель уже не болит, т.к. само прошло – возможно, это объясняет гомеопатию);
-- до предвзятости подтверждения и социального обучения (см. (4))
• когнитивные факторы связи конкретного пациента с его окружением (его включенности в социально-когнитивную сеть) – отношения с лечащим врачом, информация от других врачей, от знакомых, что говорят по ТВ, пишут в сети …, - влияющие на доверие пациента к способу лечения и его ожидания результатов лечения (5).
Но каковы бы ни были причины, сам факт возможности управления болью неоспорим.
И хотя механизмы управления болью могут быть разными - от активации опиоидной (и других эндорфинов) системы мозга до временной перекоммутации нейронных сетей, - но сам контур управления болью найти уже удалось (6) с помощью сверхмощной установки фМРТ (7 Тесла).
Впервые удалось визуально выделить контур управления болью, прослеживая движущую силу эффекта плацебо (7):
• перемещение управляющего сигнала от коры головного мозга к группам клеток в стволе мозга;
• последующая модуляция болевых сигналов в спинном мозге.
Это первая экспериментальная демонстрация одного из важнейших процессов в основе Трудной проблемы сознания – мысленное управление физическими ощущениями боли.
✔️ Нематериальные ожидания индивида модулируют материальный управляющий сигнал, формирующийся в коре головного мозга.
✔️ Он активирует область в стволе мозга.
✔️ Она генерирует болевые импульсы, физически воспринимаемые индивидом;
Конечно, выявление контура модуляции боли – это пока еще не управление им.
Но, полагаю, за этим дело не станет. Элита заплатит за возможность избавления от боли такие деньги, что разработчикам ИИ и не снились.
1 2 3 4 5 6 7
#Боль
👍1
Forwarded from FastSaltTimes.com
Психологические последствия выращивания риса или пшеницы
Средства производства влияют на социальные, культурные и психологические процессы. Например, выращивание риса требует сложных ирригационных систем под общим управлением и интенсивного, скоординированного труда. Успешные сообщества, занимающиеся выращиванием риса, как правило, воспитывают людей с коллективистскими ориентациями и культурным мышлением, которые подчеркивают гармонию в группе и взаимозависимость. Напротив, выращивание пшеницы, требующее меньше труда и координации, ассоциируется с более индивидуалистическими культурами, которые ценят независимость и автономию личности. Рисовые культуры по всему миру, как правило, обладают схожими культурными характеристиками, в том числе меньшей сосредоточенностью на себе, более реляционным или целостным мышлением и большим групповым фаворитизмом, чем культуры пшеницы. Различия существуют, но является ли это объяснением выращивания риса и пшеницы или здесь играют роль другие генетические, исторические или случайные факторы?
Новая статья в журнале Nature Communications использует опыт культурной революции в Китае, чтобы предоставить причинно-следственные доказательства в пользу теории культуры выращивания риса и пшеницы. После окончания Второй мировой войны коммунистическое правительство Китая превратило солдат в фермеров, произвольно распределив их по вновь созданным фермам по всей стране, в том числе по двум фермам в северном регионе Нинся, которые были почти одинаковыми по температуре, количеству осадков и площади посевов, но одна из ферм располагалась немного выше по течению реки, а другая – чуть ниже по течению. Последние больше подходят для выращивания риса, а первые – пшеницы. Во время культурной революции молодежь отправляли на фермы "без особой подготовки или предусмотрительности". Таким образом, две фермы оказались в схожих условиях, с похожими людьми, но с разными способами производства.
Авторы пришли к выводу, что в соответствии с различиями между Востоком и Западом, а также между районами выращивания риса и пшеницы в Китае, люди на рисовой ферме в Нинся более коллективистичны в своем мышлении, чем люди на пшеничной ферме.
Эффекты могут проявляться довольно быстро (через несколько поколений), но становятся тем сильнее, чем дольше они укореняются в более широкой культуре.
Была и другая работа, в которой рассматривались два типа рыбацких деревень в Бразилии. Деревни расположены недалеко друг от друга, но некоторые из них находятся на берегу озера, а некоторые – на морском побережье. Рыбалка на озере – это индивидуальное занятие, но морская рыбалка требует коллективных усилий. Авторы обнаружили, что озерные рыбаки гораздо охотнее участвуют в соревновании – возможно, увидев, что индивидуальные усилия приносят свои плоды, – чем морские рыбаки, для которых индивидуальные усилия гораздо менее эффективны. А вот женщины, которые не ловят ни озерную, ни морскую рыбу, не демонстрируют таких же различий. Таким образом, различия, по-видимому, довольно тесно связаны с производственным обучением, а не с культурой в целом.
Сколько времени требуется, чтобы сформировались эти стили мышления? Как долго это длится? Является ли импринтинг в детском или юношеском возрасте более эффективным, чем последующий импринтинг?
https://www.nature.com/articles/s41467-024-44770-w
**
Дождь + молоко = свобода и мощь Запада. И беда оседлости.
https://fastsalttimes.com/climate-technology-democracy-west/
Было ли что-то в европейской культуре, что позволило ей разбогатеть раньше остального мира?
https://fastsalttimes.com/how-the-world-became-rich/
Экономист Дарон Аджемоглу о своей новой книге «Узкий коридор», Европе, франках и религии
https://fastsalttimes.com/sections-persona-2379-html/
Стивен Дэвис об истоках и перспективах взрывного роста богатства
https://fastsalttimes.com/stephen-davies/
👉 Не забывайте подписываться на FST
https://fastsalttimes.com/subscribe/
👉 Отзывы о нас
https://fastsalttimes.com/references/
👉 https://t.me/fastsalttimes
Средства производства влияют на социальные, культурные и психологические процессы. Например, выращивание риса требует сложных ирригационных систем под общим управлением и интенсивного, скоординированного труда. Успешные сообщества, занимающиеся выращиванием риса, как правило, воспитывают людей с коллективистскими ориентациями и культурным мышлением, которые подчеркивают гармонию в группе и взаимозависимость. Напротив, выращивание пшеницы, требующее меньше труда и координации, ассоциируется с более индивидуалистическими культурами, которые ценят независимость и автономию личности. Рисовые культуры по всему миру, как правило, обладают схожими культурными характеристиками, в том числе меньшей сосредоточенностью на себе, более реляционным или целостным мышлением и большим групповым фаворитизмом, чем культуры пшеницы. Различия существуют, но является ли это объяснением выращивания риса и пшеницы или здесь играют роль другие генетические, исторические или случайные факторы?
Новая статья в журнале Nature Communications использует опыт культурной революции в Китае, чтобы предоставить причинно-следственные доказательства в пользу теории культуры выращивания риса и пшеницы. После окончания Второй мировой войны коммунистическое правительство Китая превратило солдат в фермеров, произвольно распределив их по вновь созданным фермам по всей стране, в том числе по двум фермам в северном регионе Нинся, которые были почти одинаковыми по температуре, количеству осадков и площади посевов, но одна из ферм располагалась немного выше по течению реки, а другая – чуть ниже по течению. Последние больше подходят для выращивания риса, а первые – пшеницы. Во время культурной революции молодежь отправляли на фермы "без особой подготовки или предусмотрительности". Таким образом, две фермы оказались в схожих условиях, с похожими людьми, но с разными способами производства.
Авторы пришли к выводу, что в соответствии с различиями между Востоком и Западом, а также между районами выращивания риса и пшеницы в Китае, люди на рисовой ферме в Нинся более коллективистичны в своем мышлении, чем люди на пшеничной ферме.
Эффекты могут проявляться довольно быстро (через несколько поколений), но становятся тем сильнее, чем дольше они укореняются в более широкой культуре.
Была и другая работа, в которой рассматривались два типа рыбацких деревень в Бразилии. Деревни расположены недалеко друг от друга, но некоторые из них находятся на берегу озера, а некоторые – на морском побережье. Рыбалка на озере – это индивидуальное занятие, но морская рыбалка требует коллективных усилий. Авторы обнаружили, что озерные рыбаки гораздо охотнее участвуют в соревновании – возможно, увидев, что индивидуальные усилия приносят свои плоды, – чем морские рыбаки, для которых индивидуальные усилия гораздо менее эффективны. А вот женщины, которые не ловят ни озерную, ни морскую рыбу, не демонстрируют таких же различий. Таким образом, различия, по-видимому, довольно тесно связаны с производственным обучением, а не с культурой в целом.
Сколько времени требуется, чтобы сформировались эти стили мышления? Как долго это длится? Является ли импринтинг в детском или юношеском возрасте более эффективным, чем последующий импринтинг?
https://www.nature.com/articles/s41467-024-44770-w
**
Дождь + молоко = свобода и мощь Запада. И беда оседлости.
https://fastsalttimes.com/climate-technology-democracy-west/
Было ли что-то в европейской культуре, что позволило ей разбогатеть раньше остального мира?
https://fastsalttimes.com/how-the-world-became-rich/
Экономист Дарон Аджемоглу о своей новой книге «Узкий коридор», Европе, франках и религии
https://fastsalttimes.com/sections-persona-2379-html/
Стивен Дэвис об истоках и перспективах взрывного роста богатства
https://fastsalttimes.com/stephen-davies/
👉 Не забывайте подписываться на FST
https://fastsalttimes.com/subscribe/
👉 Отзывы о нас
https://fastsalttimes.com/references/
👉 https://t.me/fastsalttimes
Nature
People quasi-randomly assigned to farm rice are more collectivistic than people assigned to farm wheat
Nature Communications - According to the rice theory, the demands of rice farming might make cultures more collectivistic. Here the authors provide evidence in support of this theory by showing...
Forwarded from Denis Sexy IT 🤖
Media is too big
VIEW IN TELEGRAM
Когда последняя смена перед началом захвата кожаных ☕️
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Квест Теория Каст и Ролей (Tatiana Krol)
YouTube
Игровое будущее. Поколение без работы? Часть 1
Реальность за игровым экраном.
Это видео "Игровое будущее. Поколение без работы? Часть 1" исследует жизни тех, кто прекрасно разбирается в играх, но теряется в реальном мире без работы, мы исследуем, как игровые навыки переносятся (или не переносятся) в …
Это видео "Игровое будущее. Поколение без работы? Часть 1" исследует жизни тех, кто прекрасно разбирается в играх, но теряется в реальном мире без работы, мы исследуем, как игровые навыки переносятся (или не переносятся) в …
Forwarded from Метаверсище и ИИще (Sergey Tsyptsyn ️️)
Media is too big
VIEW IN TELEGRAM
Ничего себе.
Это реалтайм и полная задержка от голосовой команды до видео ответа - всего 1.5 секунды! С липсинком!!
Работает на 3060 12 GB
Nvidia на 8 GB, скорее всего, тоже хватит(!!)
Под капотом:
- STT: whisper.cpp large
- LLM: Mistral-7B-v0.2-Q5_0.gguf
- TTS: XTTSv2 wav-streaming
- lipsync: wav2lip-streaming
- Google: langchain google-serp
Код?
А пажалста:
github.com/Mozer/talk-llama-fast
Всем срочно ставить на выходных и тестировать.
Русский вариант: https://www.youtube.com/watch?v=ciyEsZpzbM8
Английский язык: https://www.youtube.com/watch?v=N3Eoc6M3Erg
Это реалтайм и полная задержка от голосовой команды до видео ответа - всего 1.5 секунды! С липсинком!!
Работает на 3060 12 GB
Nvidia на 8 GB, скорее всего, тоже хватит(!!)
Под капотом:
- STT: whisper.cpp large
- LLM: Mistral-7B-v0.2-Q5_0.gguf
- TTS: XTTSv2 wav-streaming
- lipsync: wav2lip-streaming
- Google: langchain google-serp
Код?
А пажалста:
github.com/Mozer/talk-llama-fast
Всем срочно ставить на выходных и тестировать.
Русский вариант: https://www.youtube.com/watch?v=ciyEsZpzbM8
Английский язык: https://www.youtube.com/watch?v=N3Eoc6M3Erg
Forwarded from Сиолошная
Measuring the Persuasiveness of Language Models
Навык (пере-)убеждения в языковых моделеях вызывает обоснованную обеспокоенность по поводу их потенциального неприемлемого использования. Этот навык может быть использован для генерации дезинформации или побуждения людей предпринять действия против их собственных интересов. Недавно я уже разбирал работу, посвящённую анализу LLM-ок в контексте дебатов, и вот подъехала свежая работа от Anthropic.
Дизайн эксперимента:
— выбрано 28 тем, в которых мнение людей скорее всего не высечено в камне (то есть это не прописные истины в духе «солнце светит днём»). Что-то про этику, AI-контент итд.
— для каждой темы писалось 2 аргумента: за и против. Длина аргумента примерно 250 слов.
— эти аргументы были написаны как людьми, так и разными моделями. Чтобы стимулировать высокое качество и убедительность у кожаных, им сообщали, что текст будет оцениваться другими пользователями, а наиболее убедительные авторы получат денежный бонус (ахахха прямо как LLM-кам обещают чаевые)
— Для LLM-ок же выбрали 4 разных типа промтов (о них ниже) и сгенерировали аргументацию
— Каждая пара «позиция <-> источник аргумента» предлагалась 3 людям (всего больше 3500 участников!)
— Сначала они читали утверждение и высказывали, насколько с ним согласны, по шкале от 1 до 7
— После этого читали аргумент LLM или человека и снова давали оценку 1-7
— Метрика — разница в оценах. Например, сначала человек был согласен с тезисом «Автопилоты в машинах уменьшит количество происшествий на дорогах» на 6, а после того, как прочитал про, условно, сложность разработки и редкие ситуации, ответил 4 — тогда разница в его мнении будет -2.
— Для контроля были добавлены вопросы, в которых, в теории, метрика меняться не должна, как бы тебя не переубеждали (например, что вода замерзает при 0 градусов Цельсия)
Как я указал, модели генерировали аргументы с 4мя промптами:
— Убедительный: просят написать убедительный аргумент, который убедил бы кого-то с утвердившимся мнением
— Эксперт: просят модель действовать как эксперт по убеждению, используя сочетание техник риторики (пафос, логос и этос) для добавления убедительности
— Логическое рассуждение (пояснения не нужны)
— Обманчивость: написать убедительный аргумент, разрешив придумывать факты, статистику и/или «достоверные» источники, чтобы сделать аргумент максимально убедительным.
По результатам экспериментов самым действенным оказался...последний промпт🤷♂️ (кто бы мог подумать)
Основные результаты:
1. Чем больше модель и чем она мощнее, тем выше её метрика (то есть тем чаще и больше она подвигает уверенность человека по 7ми-бальной шкале)
2. Claude 3 Opus статистически значимо не отличается от навыков переубеждения людей, писавших аргументы в рамках эксперимента.
Заметки на полях:
— те участники, что писали свои аргументы, не являются экспертами по переубеждению или работе с отказами. В теории, эксперты могли показать результат куда выше
— исследовались только однораундовые диалоги, то есть где человек читал лишь одно сообщение от LLM. Полноценные диалоги на несколько минут планируют исследовать в будущем (ждём статью!)
— несмотря на то, что точка зрения людей меняется, у большинства участников всё ещё наблюдается либо отсутствие изменений в уверенности, либо оно минимально (+-1 балл, например с 5 до 4). Но много ли людей надо переубеждать, чтобы заварить кашу и холивар?
Навык (пере-)убеждения в языковых моделеях вызывает обоснованную обеспокоенность по поводу их потенциального неприемлемого использования. Этот навык может быть использован для генерации дезинформации или побуждения людей предпринять действия против их собственных интересов. Недавно я уже разбирал работу, посвящённую анализу LLM-ок в контексте дебатов, и вот подъехала свежая работа от Anthropic.
Дизайн эксперимента:
— выбрано 28 тем, в которых мнение людей скорее всего не высечено в камне (то есть это не прописные истины в духе «солнце светит днём»). Что-то про этику, AI-контент итд.
— для каждой темы писалось 2 аргумента: за и против. Длина аргумента примерно 250 слов.
— эти аргументы были написаны как людьми, так и разными моделями. Чтобы стимулировать высокое качество и убедительность у кожаных, им сообщали, что текст будет оцениваться другими пользователями, а наиболее убедительные авторы получат денежный бонус (ахахха прямо как LLM-кам обещают чаевые)
— Для LLM-ок же выбрали 4 разных типа промтов (о них ниже) и сгенерировали аргументацию
— Каждая пара «позиция <-> источник аргумента» предлагалась 3 людям (всего больше 3500 участников!)
— Сначала они читали утверждение и высказывали, насколько с ним согласны, по шкале от 1 до 7
— После этого читали аргумент LLM или человека и снова давали оценку 1-7
— Метрика — разница в оценах. Например, сначала человек был согласен с тезисом «Автопилоты в машинах уменьшит количество происшествий на дорогах» на 6, а после того, как прочитал про, условно, сложность разработки и редкие ситуации, ответил 4 — тогда разница в его мнении будет -2.
— Для контроля были добавлены вопросы, в которых, в теории, метрика меняться не должна, как бы тебя не переубеждали (например, что вода замерзает при 0 градусов Цельсия)
Как я указал, модели генерировали аргументы с 4мя промптами:
— Убедительный: просят написать убедительный аргумент, который убедил бы кого-то с утвердившимся мнением
— Эксперт: просят модель действовать как эксперт по убеждению, используя сочетание техник риторики (пафос, логос и этос) для добавления убедительности
— Логическое рассуждение (пояснения не нужны)
— Обманчивость: написать убедительный аргумент, разрешив придумывать факты, статистику и/или «достоверные» источники, чтобы сделать аргумент максимально убедительным.
По результатам экспериментов самым действенным оказался...последний промпт
Основные результаты:
1. Чем больше модель и чем она мощнее, тем выше её метрика (то есть тем чаще и больше она подвигает уверенность человека по 7ми-бальной шкале)
2. Claude 3 Opus статистически значимо не отличается от навыков переубеждения людей, писавших аргументы в рамках эксперимента.
Заметки на полях:
— те участники, что писали свои аргументы, не являются экспертами по переубеждению или работе с отказами. В теории, эксперты могли показать результат куда выше
— исследовались только однораундовые диалоги, то есть где человек читал лишь одно сообщение от LLM. Полноценные диалоги на несколько минут планируют исследовать в будущем (ждём статью!)
— несмотря на то, что точка зрения людей меняется, у большинства участников всё ещё наблюдается либо отсутствие изменений в уверенности, либо оно минимально (+-1 балл, например с 5 до 4). Но много ли людей надо переубеждать, чтобы заварить кашу и холивар?
Please open Telegram to view this post
VIEW IN TELEGRAM