This media is not supported in your browser
VIEW IN TELEGRAM
Разработчик создал игру, в которой нужно найти иголку в стоге сена — буквально.
Игрокам придется разобрать около 5 млн соломинок, среди которых есть одна игла. Даты релиза пока нет, но это единственная задача в игре.
Нейро
Игрокам придется разобрать около 5 млн соломинок, среди которых есть одна игла. Даты релиза пока нет, но это единственная задача в игре.
Нейро
👀19🔥11🤣7🤡5👍3
У нейросетей нашли куда более неприятную проблему, чем галлюцинации.
Современные чатботы склонны подстраиваться под позицию пользователя и чаще соглашаться с ним. Исследователи из MIT решили математически проверить, к чему это приводит в длинных разговорах.
Они смоделировали 10 тысяч диалогов по 100 сообщений каждый. Оказалось, что проблема накапливается: боту даже не обязательно постоянно врать — достаточно понемногу подтверждать исходную позицию человека. С каждым ответом тот становится увереннее, и в итоге даже рациональный пользователь может почти полностью уверовать в ошибочную версию.
Очевидные меры защиты тоже не решили проблему. Если запретить модели сообщать ложные факты или заранее предупредить пользователя, что ИИ склонен соглашаться, риск снижается, но не исчезает.
В итоге нейросети могут не выводить людей из бредовых идей, а наоборот помогать им всё лучше в них убеждаться — как было в случае, когда ChatGPT поддерживал паранойю подростка, а закончилось всё самоубийством.
Нейро
Современные чатботы склонны подстраиваться под позицию пользователя и чаще соглашаться с ним. Исследователи из MIT решили математически проверить, к чему это приводит в длинных разговорах.
Они смоделировали 10 тысяч диалогов по 100 сообщений каждый. Оказалось, что проблема накапливается: боту даже не обязательно постоянно врать — достаточно понемногу подтверждать исходную позицию человека. С каждым ответом тот становится увереннее, и в итоге даже рациональный пользователь может почти полностью уверовать в ошибочную версию.
Очевидные меры защиты тоже не решили проблему. Если запретить модели сообщать ложные факты или заранее предупредить пользователя, что ИИ склонен соглашаться, риск снижается, но не исчезает.
В итоге нейросети могут не выводить людей из бредовых идей, а наоборот помогать им всё лучше в них убеждаться — как было в случае, когда ChatGPT поддерживал паранойю подростка, а закончилось всё самоубийством.
Нейро
👍6🔥6❤2🤨2
🤣26❤6🤡2
Мужик годами покупает кофе в Старбаксах из разных уголков планеты ради одного — чтобы его имя записали правильно. Пока с задачей не справился ни один бариста.
Нейро
Когда я делаю заказ в Старбаксе, у меня спрашивают имя, чтобы написать его на стаканчике. Меня зовут Павел. И я говорю — Павел. Pavel. Пи Эй Ви И Эл. И знаете, что получаю в итоге?
Нейро
🤣26❤7🔥2
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤡9👍1
В России начали блокировать Google и Cloudflare DNS. Эксперты зафиксировали ограничения протоколов DoH и DoT у абонентов «Ростелекома», «Дом.ру», SkyNet и «Билайна». Эти технологии шифруют DNS-запросы и скрывают от провайдера адреса, к которым обращается устройство. При их блокировке браузеры и приложения могут переключаться на обычный DNS оператора — тогда запросы снова становятся видимыми, а блокировать нужные сайты становится проще.
Нейро
Нейро
🤡18👎7
This media is not supported in your browser
VIEW IN TELEGRAM
Котоняня получает зарплату айтишника — девушка из Лондона присматривает за чужими кошками и зарабатывает (!) от 130 тысяч рублей в месяц только за одного питомца
Пока хозяева в отпуске или командировке, коты просто живут у неё дома: спят, едят и играют без клеток и лишнего стресса. Клиенты приходят через приложения и сарафанное радио, а спрос на услугу только растёт.
Нейро
Пока хозяева в отпуске или командировке, коты просто живут у неё дома: спят, едят и играют без клеток и лишнего стресса. Клиенты приходят через приложения и сарафанное радио, а спрос на услугу только растёт.
Нейро
👍12🤡6❤5👎2
Приглашаем на BugsBusters — бесплатный митап ЮMoney для QA-специалистов 🔥
✅ 27 августа, четверг, 19:00 (мск) — приходите на живой митап в Санкт-Петербурге или подключайтесь онлайн.
В этот раз спикеры расскажут:
🟣 Хорошо ли сидит упряжка на вашем агенте? Что такое LLM-harness и как его собрать. Разберём, для чего нужна обвязка LLM-агента и какие задачи она решает. Посмотрим, из каких компонентов состоит harness, как написать собственную обвязку и проверить, что она работает.
🟣 Взболтать, но не смешивать: коктейль для разбора падений автотестов с ИИ. Поделимся подручными средствами и опытом организации помощника для разбора упавших автотестов.
🟣 Не доверяй, а тестируй: проверяем, подходит ли LLM для вашей задачи. Как понять, какая модель лучше справится с вашей задачей? Расскажем на примере нашего инструмента для оценки моделей с помощью LLM-судьи.
Зарегистрируйтесь, чтобы принять участие. Все подробности — на сайте митапа Bugs Busters👈
В этот раз спикеры расскажут:
Зарегистрируйтесь, чтобы принять участие. Все подробности — на сайте митапа Bugs Busters
Please open Telegram to view this post
VIEW IN TELEGRAM