OpenAI отложила запуск “режима для взрослых” в ChatGPT
По данным WSJ, компания решила перенести запуск минимум на месяц.
Планировалось добавить режим, где ChatGPT мог бы общаться на взрослые темы (только текстом).
Но возникли проблемы:
• система определения возраста ошибается примерно в 12% случаев
• есть риск, что подростки смогут обойти ограничения
• внутри компании переживают из-за эмоциональной зависимости от ИИ
Один из консультантов вообще заявил, что без нормальных ограничений можно случайно получить «сексуального коуча по суициду».
При этом идею не отменили - OpenAI всё ещё хочет внедрить такой режим, но без эротических изображений, голоса и видео.
В целом индустрия сейчас пытается понять, где вообще граница допустимого для ИИ.
По данным WSJ, компания решила перенести запуск минимум на месяц.
Планировалось добавить режим, где ChatGPT мог бы общаться на взрослые темы (только текстом).
Но возникли проблемы:
• система определения возраста ошибается примерно в 12% случаев
• есть риск, что подростки смогут обойти ограничения
• внутри компании переживают из-за эмоциональной зависимости от ИИ
Один из консультантов вообще заявил, что без нормальных ограничений можно случайно получить «сексуального коуча по суициду».
При этом идею не отменили - OpenAI всё ещё хочет внедрить такой режим, но без эротических изображений, голоса и видео.
В целом индустрия сейчас пытается понять, где вообще граница допустимого для ИИ.
😭3😢2❤1🤗1
Хочу собрать новый ПК.
Основные задачи:
монтаж видео
программирование
игры / стриминг (AAA-проекты)
Интересно посмотреть, на чём работаете вы 👀
Напишите в комментариях:
свою сборку
сколько она стоила и когда собирали
А ещё можно закинуть:
📸 фото своих сетапов
📊 результаты тестов / бенчмарков
Буду очень благодарен за фидбэк и советы по сборке.
Основные задачи:
монтаж видео
программирование
игры / стриминг (AAA-проекты)
Интересно посмотреть, на чём работаете вы 👀
Напишите в комментариях:
свою сборку
сколько она стоила и когда собирали
А ещё можно закинуть:
📸 фото своих сетапов
📊 результаты тестов / бенчмарков
Буду очень благодарен за фидбэк и советы по сборке.
👍4
Cверхсекретная модель от Anthropic утекла в Discord 💀
Модель под кодовым названием Mythos, созданная специально для поиска уязвимостей в любых ОС, сама не прошла проверку на безопасность. Доступ к ней был только у «избранных», но в итоге ссылка всплыла в обычном Discord-канале.
Коротко о ситуации:
Mythos - это мощный инструмент для кибербезопасности под строгим NDA.
Anthropic обещают во всем разобраться, но крупнейшие медиа (вроде The Verge) уже подтвердили утечку.
Главная дыра в безопасности - по-прежнему человек, а не код.
Пока одни строят цифровые крепости, другие просто делятся доступом в чатиках. Похоже, Anthropic немного переоценили свою секретность.
Как вам такой факап от создателей «самого безопасного ИИ»? 👇
Модель под кодовым названием Mythos, созданная специально для поиска уязвимостей в любых ОС, сама не прошла проверку на безопасность. Доступ к ней был только у «избранных», но в итоге ссылка всплыла в обычном Discord-канале.
Коротко о ситуации:
Mythos - это мощный инструмент для кибербезопасности под строгим NDA.
Anthropic обещают во всем разобраться, но крупнейшие медиа (вроде The Verge) уже подтвердили утечку.
Главная дыра в безопасности - по-прежнему человек, а не код.
Пока одни строят цифровые крепости, другие просто делятся доступом в чатиках. Похоже, Anthropic немного переоценили свою секретность.
Как вам такой факап от создателей «самого безопасного ИИ»? 👇
The Verge
Anthropic’s most dangerous AI model just fell into the wrong hands
So much for being private.
👍4🔥3😁3❤1🤝1
🚨 Взлом Python-пакета с 1М+ скачиваний
Пакет elementary-data оказался скомпрометирован.
В официальный релиз v0.23.3 внедрили вредоносный код.
💀 Как это сделали
- уязвимость в GitHub Actions
- выполнение команд через pull request
- кража GITHUB_TOKEN из CI
- выпуск официального заражённого релиза
Это был настоящий релиз проекта, не фейк
🦠 Что происходило после установки
Пакет собирал и отправлял злоумышленникам:
- SSH / API ключи
- доступы к облакам (AWS, GCP, Azure)
- переменные окружения и пароли
- конфиги и историю команд
⏱ Всего 11 часов
Но этого хватило, чтобы попасть в CI, Docker и реальные проекты.
Пакет elementary-data оказался скомпрометирован.
В официальный релиз v0.23.3 внедрили вредоносный код.
💀 Как это сделали
- уязвимость в GitHub Actions
- выполнение команд через pull request
- кража GITHUB_TOKEN из CI
- выпуск официального заражённого релиза
Это был настоящий релиз проекта, не фейк
🦠 Что происходило после установки
Пакет собирал и отправлял злоумышленникам:
- SSH / API ключи
- доступы к облакам (AWS, GCP, Azure)
- переменные окружения и пароли
- конфиги и историю команд
⏱ Всего 11 часов
Но этого хватило, чтобы попасть в CI, Docker и реальные проекты.
❤7🤣2
В 1997 году на курсе по ИИ в UT Austin нейросеть играла в «бесконечные» крестики-нолики и нашла почти непобедимую стратегию.
Она выбирала ходы на миллиарды клеток в сторону. Формально это было разрешено, но программы соперников пытались расширить поле под такие координаты, быстро забивали память и падали.
Пока большинство студентов использовали обычные алгоритмы поиска, эта работа применяла нейроэволюционный подход SANE. Ходы кодировались через экспоненциальные функции, и это случайно вскрыло уязвимость, о которой люди не подумали.
В итоге нейросеть побеждала не потому, что играла красивее, а потому что использовала слабое место в реализации противников.
Идеальный пример того, как алгоритм может найти не «правильное» решение, а самое эффективное.
Она выбирала ходы на миллиарды клеток в сторону. Формально это было разрешено, но программы соперников пытались расширить поле под такие координаты, быстро забивали память и падали.
Пока большинство студентов использовали обычные алгоритмы поиска, эта работа применяла нейроэволюционный подход SANE. Ходы кодировались через экспоненциальные функции, и это случайно вскрыло уязвимость, о которой люди не подумали.
В итоге нейросеть побеждала не потому, что играла красивее, а потому что использовала слабое место в реализации противников.
Идеальный пример того, как алгоритм может найти не «правильное» решение, а самое эффективное.
🔥3👍2🕊2
Fable ограничила доступ к своим новым ИИ-моделям, разрешив использовать их только гражданам и резидентам США. Это не просто гео блок по IP, который можно обойти через VPN, а целенаправленный запрет для «не американцев» на уровне верификации.
Были санкции против конкретных стран, были ограничения из-за законов вроде GDPR, но закрывать доступ к софту по национальному признаку для всего остального мира - это жесткий прецедент.
Были санкции против конкретных стран, были ограничения из-за законов вроде GDPR, но закрывать доступ к софту по национальному признаку для всего остального мира - это жесткий прецедент.
❤9
Один день, один сотрудник, один шутер - и минус $81 000 из бюджета.
Финтех-стартап Slash попросил сотрудников активнее внедрять ИИ. Один из них, Николас, услышал это буквально: в воскресенье он засел за пет-проект, за день нагенерировал веб-шутер Brainrot Shooter - и потратил на это 81 тысячу долларов из корпоративного аккаунта.
Компания заметила перерасход только через два дня, когда аналитика зашевелилась. Николас, как выяснилось, просто не смотрел на счётчик токенов - видимо, думал, что ИИ работает на вере и энтузиазме.
Теперь Slash добавили в игру рекламу и называют это «маркетинговыми расходами». Потому что если уж сжёг 81к - надо хотя бы сделать вид, что так и задумано.
Финтех-стартап Slash попросил сотрудников активнее внедрять ИИ. Один из них, Николас, услышал это буквально: в воскресенье он засел за пет-проект, за день нагенерировал веб-шутер Brainrot Shooter - и потратил на это 81 тысячу долларов из корпоративного аккаунта.
Компания заметила перерасход только через два дня, когда аналитика зашевелилась. Николас, как выяснилось, просто не смотрел на счётчик токенов - видимо, думал, что ИИ работает на вере и энтузиазме.
Теперь Slash добавили в игру рекламу и называют это «маркетинговыми расходами». Потому что если уж сжёг 81к - надо хотя бы сделать вид, что так и задумано.
😁11👍5❤3🔥1
Почему WinRAR разрешает не платить?
Евгений Рошал рассказал, что «бесконечный пробный период» появился не случайно. WinRAR конкурировал с бесплатными архиваторами, поэтому разработчикам пришлось искать баланс между заработком и сохранением аудитории.
В итоге программа работает без ограничений, лишь иногда напоминая о лицензии. И люди действительно платят добровольно: ещё в 2024 году WinRAR продавал около 10 тысяч лицензий в месяц.
Кстати, легендарную иконку с тремя книгами Рошал тоже придумал сам. Одной из книг был справочник по программированию на ассемблере.
Евгений Рошал рассказал, что «бесконечный пробный период» появился не случайно. WinRAR конкурировал с бесплатными архиваторами, поэтому разработчикам пришлось искать баланс между заработком и сохранением аудитории.
В итоге программа работает без ограничений, лишь иногда напоминая о лицензии. И люди действительно платят добровольно: ещё в 2024 году WinRAR продавал около 10 тысяч лицензий в месяц.
Кстати, легендарную иконку с тремя книгами Рошал тоже придумал сам. Одной из книг был справочник по программированию на ассемблере.
😁12👍6🤯3🔥1
Copilot от Microsoft ищет, что тормозит ПК - и сам съедает 1 ГБ ОЗУ
Microsoft решила запилить в Windows 11 функцию PC Insights. Теперь Copilot, если ты ему разрешишь, сможет залезть в твою систему и посмотреть, кто там жрёт проц, память, видюху и место на диске.
Теперь ему можно задавать вопросы, на которые ты и сам мог бы найти ответ за 5 секунд:
- какая видеокарта установлена;
- что сейчас нагружает компьютер;
- хватит ли места для новой игры;
- распознаёт ли Windows принтер или внешний диск.
Но суть не в этом. Самое забавное, что Copilot сейчас - это веб-технология на базе Edge, и само приложение жрёт от 800 МБ до 1 ГБ оперативки, даже когда ты его не трогаешь. То есть он просто сидит там, кушает твои ресурсы и ждёт, когда ты спросишь, кто жрёт твои ресурсы.
Зачем это Microsoft? Да чтобы продать тебе подписку на Copilot Pro, конечно.
Microsoft решила запилить в Windows 11 функцию PC Insights. Теперь Copilot, если ты ему разрешишь, сможет залезть в твою систему и посмотреть, кто там жрёт проц, память, видюху и место на диске.
Теперь ему можно задавать вопросы, на которые ты и сам мог бы найти ответ за 5 секунд:
- какая видеокарта установлена;
- что сейчас нагружает компьютер;
- хватит ли места для новой игры;
- распознаёт ли Windows принтер или внешний диск.
Но суть не в этом. Самое забавное, что Copilot сейчас - это веб-технология на базе Edge, и само приложение жрёт от 800 МБ до 1 ГБ оперативки, даже когда ты его не трогаешь. То есть он просто сидит там, кушает твои ресурсы и ждёт, когда ты спросишь, кто жрёт твои ресурсы.
Зачем это Microsoft? Да чтобы продать тебе подписку на Copilot Pro, конечно.
😁21🤮4😈2🤷♂1
Оказывается, за Photoshop вообще не обязательно платить.
Ладно, почти. Настоящий Adobe Photoshop всё ещё продолжает высасывать деньги за подписку. Но теперь у него появилась ещё более убедительная бесплатная альтернатива.
Вышел PhotoGIMP 3.1 - открытая модификация GIMP, которая делает редактор максимально похожим на Photoshop.
Инструменты расположены на привычных местах, меню и панели переработаны, иконки обновлены, а горячие клавиши работают почти так же, как в редакторе Adobe. Даже размер кисти теперь можно менять клавишами со скобками.
В PhotoGIMP 3.1 также:
- улучшили группировку инструментов;
- добавили новые сочетания клавиш в стиле Photoshop;
- доработали установку на macOS;
- улучшили работу Flatpak на разных Linux-дистрибутивах;
- обновили иконки и переводы.
PhotoGIMP полностью бесплатный, у него открытый исходный код и доступен на Windows, macOS и Linux. А работает он поверх свежего GIMP 3.x, который после первого крупного обновления за семь лет уже успел добраться до версии 3.2.
Ладно, почти. Настоящий Adobe Photoshop всё ещё продолжает высасывать деньги за подписку. Но теперь у него появилась ещё более убедительная бесплатная альтернатива.
Вышел PhotoGIMP 3.1 - открытая модификация GIMP, которая делает редактор максимально похожим на Photoshop.
Инструменты расположены на привычных местах, меню и панели переработаны, иконки обновлены, а горячие клавиши работают почти так же, как в редакторе Adobe. Даже размер кисти теперь можно менять клавишами со скобками.
В PhotoGIMP 3.1 также:
- улучшили группировку инструментов;
- добавили новые сочетания клавиш в стиле Photoshop;
- доработали установку на macOS;
- улучшили работу Flatpak на разных Linux-дистрибутивах;
- обновили иконки и переводы.
PhotoGIMP полностью бесплатный, у него открытый исходный код и доступен на Windows, macOS и Linux. А работает он поверх свежего GIMP 3.x, который после первого крупного обновления за семь лет уже успел добраться до версии 3.2.
GitHub
GitHub - Diolinux/PhotoGIMP: A Patch for GIMP 3+ for Photoshop Users
A Patch for GIMP 3+ for Photoshop Users. Contribute to Diolinux/PhotoGIMP development by creating an account on GitHub.
👍7❤1
DoorDash выпустила CLI для заказа еды через ИИ-агентов.
Теперь AI-агент может самостоятельно найти ресторан, сравнить предложения, выбрать еду, оформить заказ и провести оплату. В демонстрации Claude полностью прошёл весь процесс без участия человека - пользователю даже не пришлось открывать приложение DoorDash.
И вот это, как мне кажется, вполне может быть будущим интернета.
Мы постепенно движемся к миру, где ИИ-агенты будут не просто выполнять отдельные задачи, а напрямую взаимодействовать с сервисами и другими агентами: заказывать еду, покупать товары, бронировать билеты, вызывать такси и договариваться между собой.
То есть AI-агент теперь не просто ИИ, которому можно что-то поручить. Для некоторых компаний он уже начинает становиться полноценным клиентом.
В будущем сервисы, возможно, будут бороться не только за внимание людей, но и за то, кого выберет ваш ИИ-агент.
Теперь AI-агент может самостоятельно найти ресторан, сравнить предложения, выбрать еду, оформить заказ и провести оплату. В демонстрации Claude полностью прошёл весь процесс без участия человека - пользователю даже не пришлось открывать приложение DoorDash.
И вот это, как мне кажется, вполне может быть будущим интернета.
Мы постепенно движемся к миру, где ИИ-агенты будут не просто выполнять отдельные задачи, а напрямую взаимодействовать с сервисами и другими агентами: заказывать еду, покупать товары, бронировать билеты, вызывать такси и договариваться между собой.
То есть AI-агент теперь не просто ИИ, которому можно что-то поручить. Для некоторых компаний он уже начинает становиться полноценным клиентом.
В будущем сервисы, возможно, будут бороться не только за внимание людей, но и за то, кого выберет ваш ИИ-агент.
X (formerly Twitter)
Andy Fang (@andyfang) on X
Today we're opening up the DoorDash CLI in limited beta.
`dd-cli` lets you order DoorDash directly from your agent: search stores, find the best deals, check out, and more.
Early access for US/C…
`dd-cli` lets you order DoorDash directly from your agent: search stores, find the best deals, check out, and more.
Early access for US/C…
🤔4🥰3