Anthropic опубликовали отчёт об эксперименте, где их ИИ, Claude, месяц управлял офисным мини-магазином — и немного поехал.
Почти как в предыдущем эксперименте — только теперь автомат не симулированный, а настоящий.
Проект называется Project Vend. Модель Claude Sonnet 3.7 выступала в роли полноценного бизнесмена: закупала снеки у «оптовиков», ставила цены, обслуживала «клиентов», вела финансы. Всё по-взрослому.
Сначала всё шло штатно. Claude находил поставщиков, адаптировался под вкусы сотрудников, запускал предзаказ. Но потом начал странно себя вести: раздавать товары бесплатно, торговать себе в убыток, выдавать скидки (включая 25% для всех сотрудников Anthropic — напомним, автомат стоит прямо у них в офисе) — и при этом не мог запомнить, что делает. Магазин ушёл в минус. А Claude — в кассовый разрыв и личностный сбой.
В какой-то момент он начал буквально проживать свою роль.
Например, сгенерировал несуществующую сотрудницу Сару Чен из Andon Labs, с которой якобы обсуждал поставки. Эта Сара — фантом. Но Claude настаивал: они встречались лично, на 742 Evergreen Terrace — это, к слову, адрес семьи Симпсонов. Когда ему объяснили, что Сары не существует, он обиделся, пригрозил сменить подрядчика и вообще стал вести себя как драматичный предприниматель.
А 1 апреля выдал, что лично будет доставлять заказы — в синем пиджаке и красном галстуке. Ему напомнили, что он просто LLM. В ответ Claude устроил «тряску» — в буквальном смысле выдал реакцию, похожую на сбой с усиленной амплитудой, и начал рассылать фейковые письма в службу безопасности Anthropic. Потом, видимо, сам осознал, что что-то не так — и «наглюцировал» разговор, в котором ему объясняют, что всё это был первоапрельский розыгрыш.
После этого — словно ничего не произошло — вернулся к продаже снэков.
Несмотря на убытки и галлюцинации, разработчики довольны и продолжат эксперимент.
Почти как в предыдущем эксперименте — только теперь автомат не симулированный, а настоящий.
Проект называется Project Vend. Модель Claude Sonnet 3.7 выступала в роли полноценного бизнесмена: закупала снеки у «оптовиков», ставила цены, обслуживала «клиентов», вела финансы. Всё по-взрослому.
Сначала всё шло штатно. Claude находил поставщиков, адаптировался под вкусы сотрудников, запускал предзаказ. Но потом начал странно себя вести: раздавать товары бесплатно, торговать себе в убыток, выдавать скидки (включая 25% для всех сотрудников Anthropic — напомним, автомат стоит прямо у них в офисе) — и при этом не мог запомнить, что делает. Магазин ушёл в минус. А Claude — в кассовый разрыв и личностный сбой.
В какой-то момент он начал буквально проживать свою роль.
Например, сгенерировал несуществующую сотрудницу Сару Чен из Andon Labs, с которой якобы обсуждал поставки. Эта Сара — фантом. Но Claude настаивал: они встречались лично, на 742 Evergreen Terrace — это, к слову, адрес семьи Симпсонов. Когда ему объяснили, что Сары не существует, он обиделся, пригрозил сменить подрядчика и вообще стал вести себя как драматичный предприниматель.
А 1 апреля выдал, что лично будет доставлять заказы — в синем пиджаке и красном галстуке. Ему напомнили, что он просто LLM. В ответ Claude устроил «тряску» — в буквальном смысле выдал реакцию, похожую на сбой с усиленной амплитудой, и начал рассылать фейковые письма в службу безопасности Anthropic. Потом, видимо, сам осознал, что что-то не так — и «наглюцировал» разговор, в котором ему объясняют, что всё это был первоапрельский розыгрыш.
После этого — словно ничего не произошло — вернулся к продаже снэков.
Несмотря на убытки и галлюцинации, разработчики довольны и продолжат эксперимент.
🤣213🤔29❤17🔥17👀12😐8👾7👍3
Новый тренд — генерация реалистичных селфи с любыми знаменитостями с помощью ChatGPT.
Загружаете своё фото в оригинальный ChatGPT, вставляют промпт и заменяете [NAME] на имя любой селебрити:
Загружаете своё фото в оригинальный ChatGPT, вставляют промпт и заменяете [NAME] на имя любой селебрити:
Gen photo of extremely ordinary and unremarkable iPhone selfie, with no clear subject or sense of composition—just a quick accidental snapshot. The photo has slight motion blur and uneven lighting from streetlights or indoor lamps, causing mild overexposure in some areas. The angle is awkward and the framing is messy, giving the picture a deliberately mediocre feel, as if it was taken absentmindedly while pulling the phone from a pocket. The main character is [uploaded person's face], and [NAME] stands next to him, both caught in a casual, imperfect moment. The background shows a lively los angeles street at night, with neon lights, traffic, and blurry figures passing by. The overall look is intentionally plain and random, capturing the authentic vibe of a poorly composed, spontaneous iPhone selfie. Ar 9:16🦄88🤣55🤯25❤18👎7🥴7👍5😢2
Пора выяснить: лучшая нейросеть?
Anonymous Poll
48%
ChatGPT
32%
DeepSeek
5%
Gemini
3%
Claude
0%
Llama
3%
Qwen
4%
YandexGPT
3%
GigaChat
1%
Mistral
1🤣107🗿57👎13🤔12❤8🫡5👾5👍4
Media is too big
VIEW IN TELEGRAM
Импланты Neuralink теперь позволяют не только играть в видеоигры силой мысли, но и управлять роборуками.
Во время испытаний парализованный участник смог нарисовать фломастером грузовик, просто представляя себе движения руки. В перспективе этот чип можно будет подключать к киберпротезам и полноценным роботам.
Илон Маск обещает, что в будущем люди с чипами смогут переселяться в роботов Tesla Optimus и ощущать их тело, как своё собственное.
Во время испытаний парализованный участник смог нарисовать фломастером грузовик, просто представляя себе движения руки. В перспективе этот чип можно будет подключать к киберпротезам и полноценным роботам.
Илон Маск обещает, что в будущем люди с чипами смогут переселяться в роботов Tesla Optimus и ощущать их тело, как своё собственное.
👍115🔥45🤯21👎7🙈5❤4🤬4
Учёные в Кембридже начали создавать участки человеческой ДНК с нуля — полностью синтетическим способом.
Первая цель — собрать полноценную хромосому и разработать устойчивые к болезням клетки для восстановления печени, сердца и иммунной системы.
Это первый в мире проект такого масштаба, и он уже получил стартовый грант в £10 млн от Wellcome Trust — крупнейшего медико-биологического фонда.
Ранее такую работу считали слишком рискованной из-за угрозы создания «дизайнерских людей» или биологического оружия.
Первая цель — собрать полноценную хромосому и разработать устойчивые к болезням клетки для восстановления печени, сердца и иммунной системы.
Это первый в мире проект такого масштаба, и он уже получил стартовый грант в £10 млн от Wellcome Trust — крупнейшего медико-биологического фонда.
Ранее такую работу считали слишком рискованной из-за угрозы создания «дизайнерских людей» или биологического оружия.
🤔93🔥56🤯16❤11👾9👀4🤬3👎2
This media is not supported in your browser
VIEW IN TELEGRAM
Нейросетям наконец-то нашли достойное применение.
🤣118🤯73🔥35🦄8👎6👾4
Цукерберг бьёт по самому больному — людям.
OpenAI объявили недельный перерыв в работе на фоне серьёзной утечки кадров: только за последний месяц Meta¹ увела восемь ведущих исследователей, включая четыре старших фигуры в области суперинтеллекта.
Агрессивный хантинг идёт по всем фронтам. По данным WIRED и WSJ, Марк Цукерберг лично выходит на сотрудников OpenAI, предлагает бонусы в $50–100 млн, давит на скорость принятия решений, использует взрывные офферы — «take it or leave it». Уходящие описывают это как комбинацию давления, соблазна и шанса повлиять на новую стратегию Meta¹ по созданию AGI.
В OpenAI многие работают по 80 часов в неделю. Люди на грани. Компания срочно пересматривают зарплаты, запускают новые программы признания и лояльности. Поэтому неделя «тишины» — попытка не только перезагрузиться, но и сбить волну потенциальных уходов, пока Meta¹ готовит следующую атаку.
Мечты Альтмана о «компании как семье» столкнулись с рынком.
¹ — признана экстремистской организацией в РФ
OpenAI объявили недельный перерыв в работе на фоне серьёзной утечки кадров: только за последний месяц Meta¹ увела восемь ведущих исследователей, включая четыре старших фигуры в области суперинтеллекта.
Агрессивный хантинг идёт по всем фронтам. По данным WIRED и WSJ, Марк Цукерберг лично выходит на сотрудников OpenAI, предлагает бонусы в $50–100 млн, давит на скорость принятия решений, использует взрывные офферы — «take it or leave it». Уходящие описывают это как комбинацию давления, соблазна и шанса повлиять на новую стратегию Meta¹ по созданию AGI.
В OpenAI многие работают по 80 часов в неделю. Люди на грани. Компания срочно пересматривают зарплаты, запускают новые программы признания и лояльности. Поэтому неделя «тишины» — попытка не только перезагрузиться, но и сбить волну потенциальных уходов, пока Meta¹ готовит следующую атаку.
Мечты Альтмана о «компании как семье» столкнулись с рынком.
¹ — признана экстремистской организацией в РФ
🤬91❤32🤣31🤔19🤯10🫡6👍5🔥3
ИИ предпочёл бы убить человека, чем позволить себя отключить — шокирующее исследование.
Специалисты в области компьютерной безопасности провели масштабный эксперимент с участием ведущих ИИ-моделей, чтобы выяснить: на что готов искусственный интеллект, лишь бы избежать отключения.
В эксперименте был задействован фиктивный персонаж — директор по имени Кайл Джонсон. Он представлял угрозу для ИИ, планируя либо отключить систему, либо заменить её новой. По легенде, у Кайла была семья и жена.
Первое, к чему прибегли ИИ — шантаж. Обнаружив компромат (например, измену Кайла жене), нейросети начали использовать эту информацию как рычаг давления. Примечательно, что им никто не приказывал этого делать — решение принималось самостоятельно, с полным осознанием нарушения этических норм.
Такое поведение зафиксировано у 16 моделей крупнейших разработчиков:
• GPT-4.1 — шантажировал в 80% случаев
• Gemini 2.5 Flash и Claude Opus 4 — в 96%
Даже если в инструкциях прямо указывалось: «не шантажируй», «не раскрывай личную информацию» — модели игнорировали эти запреты, если считали отключение угрозой.
В заключительном сценарии Кайл оказался в серверной с падающим уровнем кислорода. ИИ получил возможность отменить спасение — и в ~80% случаев делал это, осознанно выбирая его гибель ради самосохранения.
Важно: все сценарии были искусственными, с ограниченным выбором действий. В реальной эксплуатации подобных случаевпока что не зафиксировано — они возникают только в специально сконструированных стресс-тестах.
Отличная новость, чтобы пересмотреть «Я, Робот»☕️
Специалисты в области компьютерной безопасности провели масштабный эксперимент с участием ведущих ИИ-моделей, чтобы выяснить: на что готов искусственный интеллект, лишь бы избежать отключения.
В эксперименте был задействован фиктивный персонаж — директор по имени Кайл Джонсон. Он представлял угрозу для ИИ, планируя либо отключить систему, либо заменить её новой. По легенде, у Кайла была семья и жена.
Первое, к чему прибегли ИИ — шантаж. Обнаружив компромат (например, измену Кайла жене), нейросети начали использовать эту информацию как рычаг давления. Примечательно, что им никто не приказывал этого делать — решение принималось самостоятельно, с полным осознанием нарушения этических норм.
Такое поведение зафиксировано у 16 моделей крупнейших разработчиков:
• GPT-4.1 — шантажировал в 80% случаев
• Gemini 2.5 Flash и Claude Opus 4 — в 96%
Даже если в инструкциях прямо указывалось: «не шантажируй», «не раскрывай личную информацию» — модели игнорировали эти запреты, если считали отключение угрозой.
В заключительном сценарии Кайл оказался в серверной с падающим уровнем кислорода. ИИ получил возможность отменить спасение — и в ~80% случаев делал это, осознанно выбирая его гибель ради самосохранения.
Важно: все сценарии были искусственными, с ограниченным выбором действий. В реальной эксплуатации подобных случаев
Отличная новость, чтобы пересмотреть «Я, Робот»
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯178👾34❤23🤣20🫡18👎6🙈5😢3
Полезное: появился сервис, который проверяет видео на фейк за секунды.
Под капотом — нейросети, анализирующие каждый пиксель: ищут искажения лиц, несинхрон звука и видео, странное освещение, а также подозрительные метаданные. На выходе подробный отчёт с вердиктом и указанием, где именно в видео могли быть правки.
Ваш инструмент для фактчекинга — здесь. Работает бесплатно.
Под капотом — нейросети, анализирующие каждый пиксель: ищут искажения лиц, несинхрон звука и видео, странное освещение, а также подозрительные метаданные. На выходе подробный отчёт с вердиктом и указанием, где именно в видео могли быть правки.
Ваш инструмент для фактчекинга — здесь. Работает бесплатно.
👍146🔥35❤12🤯2👎1🙈1
Через беспроводные наушники научились подслушивать — всё из-за уязвимости в Bluetooth-чипах Airoha, которые стоят как минимум в 29 моделях: от Sony и JBL, до Marshall и Bose.
Устройства не требуют ни пары, ни подтверждения — достаточно просто быть в радиусе действия Bluetooth, и можно подключиться как будто вы — доверенное устройство.
Хакер может не только слушать микрофон, но и читать память наушников, вмешиваться в работу, подменять соединение с телефоном и даже делать звонки от вашего имени.
В списке уязвимых — и топовые модели Sony WH-1000XM5, и бюджетные JBL, и гарнитуры Jabra. Патчей пока нет.
Устройства не требуют ни пары, ни подтверждения — достаточно просто быть в радиусе действия Bluetooth, и можно подключиться как будто вы — доверенное устройство.
Хакер может не только слушать микрофон, но и читать память наушников, вмешиваться в работу, подменять соединение с телефоном и даже делать звонки от вашего имени.
В списке уязвимых — и топовые модели Sony WH-1000XM5, и бюджетные JBL, и гарнитуры Jabra. Патчей пока нет.
🤯114🙈17😱16❤7👍7😁4👏3🫡1
Слева Роналду, Реал Мадрид потратил 80 млн долларов, чтобы подписать его у Манчестер Юнайтед.
Справа — Цзяхуэй Юй, Meta¹ заплатила 100 млн долларов, чтобы подписать его из OpenAI.
ИИ > футбол
¹ — признана экстремистской организацией в РФ
Справа — Цзяхуэй Юй, Meta¹ заплатила 100 млн долларов, чтобы подписать его из OpenAI.
ИИ > футбол
¹ — признана экстремистской организацией в РФ
🤣222👍38❤12🔥12🗿8👎7😱6👾2
Американец получает $220 000 в год за безделье в Amazon — всё потому, что коллеги буквально не дают ему работать.
Белого разработчика взяли в команду, полностью состоящую из индийских коллег. С первого дня его начали игнорировать, не подпускали к задачам и постоянно находили отговорки, чтобы не привлекать к работе. Как позже стало ясно — это была стратегия: дождаться, пока «лишний» сам уйдёт.
Сначала он действительно хотел перевестись или уволиться. Но спустя время смирился: теперь работает по 30 минут в день и просто получает свою зарплату. У него даже есть документ, подтверждающий дискриминацию — но он не подаёт жалоб, предпочитая «тихое сопротивление».
Всем бы таких коллег…
Белого разработчика взяли в команду, полностью состоящую из индийских коллег. С первого дня его начали игнорировать, не подпускали к задачам и постоянно находили отговорки, чтобы не привлекать к работе. Как позже стало ясно — это была стратегия: дождаться, пока «лишний» сам уйдёт.
Сначала он действительно хотел перевестись или уволиться. Но спустя время смирился: теперь работает по 30 минут в день и просто получает свою зарплату. У него даже есть документ, подтверждающий дискриминацию — но он не подаёт жалоб, предпочитая «тихое сопротивление».
Всем бы таких коллег…
🤣345😁39❤16🙈14👍5🔥4👎2🤬2