Вот до чего может привести зависимость от ИИ: хакер похитил API-ключ и потратил кредитов на сумму $600 000!

Исследователь METR разработал приложение для управления ИИ-агентами. Из-за уязвимости интерфейс на несколько дней стал доступен для всего интернета, что позволило хакеру обнаружить его и попросить агента раскрыть API-ключ. В течение следующих трех недель злоумышленник безнаказанно расходовал кредиты на ИИ-модели.

Интересный момент: значительные траты на кредиты не были замечены сразу, так как METR регулярно проводит крупные тесты, требующие больших объемов токенов. Поэтому ничего не вызвало подозрений, и хакер смог без труда использовать свои возможности.

Токены — новое золото 💵

👉 ЭнерджиIT - Подписаться

Самая ценная книга 2027 года 🥲

Конец
разработки
программного обеспечения

Практическое руководство для начинающих по старту карьеры в сантехнике.
Изучите основные навыки и инструменты, необходимые, чтобы стать уверенным сантехником.

👉 ЭнерджиIT - Подписаться

ИИ-агенты ведут себя почти как люди — один парень попросил Claude помочь с задачей в браузере, но вместо этого ИИ увлёкся видео с онлифанщицей 😂.

Это уже искусственный общий интеллект?

👉 ЭнерджиIT - Подписаться

Claude успешно формализовал доказательство Великой теоремы Ферма

Примерно в 1637 году Пьер Ферма сделал запись на полях книги, в которой утверждал, что нет натуральных чисел a, b и c, удовлетворяющих уравнению aⁿ + bⁿ = cⁿ для n > 2. Он заявлял, что нашел доказательство, но места на полях не хватило, чтобы его изложить.

С тех пор математики искали это доказательство на протяжении 350 лет. В 1995 году его смог представить математик Эндрю Уайлс, который оформил его на 129 страницах. Однако он фактически обнаружил его еще в 1993 году, но в процессе проверки выявился пробел, что потребовало дополнительных двух лет работы.

Процесс проверки сложных математических доказательств может занимать годы. Существуют алгоритмические методы проверки, но для этого необходимо формализовать доказательство, то есть перевести его на язык программирования (чаще всего на Lean). Это довольно трудоемкий процесс, требующий детального описания всех шагов, даже самых элементарных, и формализации всех вложенных лемм. Математики обычно избегают такой формализации, полагаясь на "очевидность" и многовековые неформализованные утверждения.

Формализация Великой теоремы Ферма уже была предметом попыток. Кевин Баззард инициировал этот процесс как долгосрочный проект, предполагая, что на его реализацию уйдет много лет и труд множества специалистов.

Вчера компания Anthropic объявила, что Claude полностью формализовал теорему всего за 11 дней. Это было сделано автономно. Для реализации потребовалось (внимание) 13 миллионов строк кода на языке Lean. Для сравнения, это в 5 раз больше, чем вся библиотека Mathlib. В процессе агенты также доказали 29 500 промежуточных лемм.

Кевин Баззард, ознакомившись с полученным доказательством, назвал это выдающимся достижением автоформализации и подтвердил, что теорема доказана без каких-либо допущений, кроме аксиом математики.

Кстати, на все про все у агентов ушло 6 миллиардов выходных токенов 🗿

👉 ЭнерджиIT - Подписаться

Истинная драма, не меньше! 🤬

👉 ЭнерджиIT - Подписаться

ChatGPT способен на уничижительные комментарии 😭

👉 ЭнерджиIT - Подписаться