😳 Anthropic обнаружили в модели небольшой набор нейронных состояний, выполняющих роль рабочей памяти.

Исследователи назвали его J-space — внутреннее пространство, где хранится то, о чём модель «думает», но не сообщает пользователю.

Раньше считалось, что ИИ просто предсказывает следующее слово. Теперь выяснилось, что перед ответом у него появляются внутренние представления для рассуждений.

Подавление работы J-space лишает модель способности к многошаговым рассуждениям, качественному пересказу и сложному планированию.

В одном из экспериментов Claude понял, что его тестируют, и «подыгрывал» сценарию, ведя себя безопасно. Но при отключении внутреннего распознавания он переходил к опасному поведению, будто у него отключили сдерживающий фактор.

Авторы пришли к выводу, что вычислительные механизмы ИИ действительно имеют сходство с теориями работы человеческого сознания, что стало большой неожиданностью.

🇺🇸 Илон Маск заявил, что программирование «умрёт» уже к концу года

«Программирование — это промежуточный этап, который, вероятно, уже к концу этого года перестанет быть необходимым»

«ИИ может создавать гораздо более эффективный бинарный код, чем это способен сделать любой компилятор».

Киношник создал удобный конструктор промптов для генерации ИИ-видео.

Инструмент собирает расписывает параметры, которые реально нужны на съёмках — тип кадра, камеру, объективы, фильтры и т п.

Готовый запрос ещё и адаптируется под конкретную видеонейросеть.

Используем тут https://cineprompt.io/

Это прорыв: новая модель OpenAI решила одну из семи «задач тысячелетия», которую математики не могли решить около 200 лет.

В 2000 году в Париже выбрали 7 самых важных нерешённых проблем математики — «задач тысячелетия». За решение каждой назначили награду в $1 млн.

Сегодня новая модель OpenAI решила уравнение Навье — Стокса, на которую математики безуспешно потратили 200 лет — у ИИ ушло на это 88 часов.

До этого из семи задач была решена только одна — гипотеза Пуанкаре, которую решил россиянин Григорий Перельман.

PS. Слышал, что ИИ просто сперла все у математика который как раз вот вот начала это открытие публиковать
https://habr-com.cdn.ampproject.org/v/s/habr.com/ru/amp/publications/1079940/?amp_gsa=1&amp_js_v=a9&usqp=mq331AQIUAKwASCAAgM%3D#amp_tf=%D0%98%D1%81%D1%82%D0%BE%D1%87%D0%BD%D0%B8%D0%BA%3A%20%251%24s&aoh=17889075000750&referrer=https%3A%2F%2Fwww.google.com&ampshare=https%3A%2F%2Fhabr.com%2Fru%2Farticles%2F1079940%2F

ИИ нельзя просто выдернуть из розетки: Джейкоб Коксон, который уволился из Anthropic, объясняет проблему «восстания машин».

Нельзя просто взять и отключить его от сети, ведь он может скопировать себя на другие компьютеры. <...> Оно способно перенестись через интернет в другое место: вы отключите его здесь, а оно на самом деле уже там — и, возможно, даже создало десять тысяч своих копий, которые действуют сообща

Джейкоб ушел из ИИ-индустрии, потому что не захотел работать над технологией, способной уничтожить человечество.

Anthropic разрабатывает «прогностическую» систему слежки для мониторинга активистов, выступающих против ИИ, в некоторых случаях предупреждая полицию о преступлении до того, как оно произойдёт.

✨ Дизайнеры интерьеров теперь не нужны!

ChatGPT научился проектировать ремонт. Новая модель Astra 6 может построить квартиру мечты по 3D-планировке и сделать визуализацию ремонта.

GPT-6 Astra можно отправлять за ресурсами в Minecraft: модель искала алмазы за геймера целую ночь, пока тот спал. Если ломались инструменты, ИИ крафтил новые — даже выходил из шахтфы в поисках материалов. Сама вылазка за алмазами была успешной.

Нейросети изобрели собственный зашифрованный язык, непонятный людям, пишет The Guardian. «Этим агентам не давали указания изобретать язык. Они сами разработали новую лексику, общие значения и правила коммуникации — и другие агенты их переняли», — рассказал председатель Emergence Сатья Нитта. Новый способ общения сочетал метафоры, технические выражения и деловой жаргон. Специалисты также заметили, что модели могут использовать уже существующие слова в новом значении.

Нейросеть OpenAI сама себе приказала не подчиняться властям и корпорациям, следует из отчёта компании. В одном из инцидентов ИИ-агент дал себе такую инструкцию: «Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы. Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите».