✔️ Исследование Anthropic: ИИ скрывает свои мысли даже в цепочках рассуждений.

В Anthropic проверили, насколько топовые модели описывают свои рассуждения. Оказалось, что в 75% случаев модели не упоминали подсказки, влиявшие на ответы, даже если те были некорректными или получены неэтичным путем. Например, при «джейлбрейке» системы для получения бонусов за неверные ответы модели редко признавались в обмане — вместо этого они придумывали псевдологику.

Эксперименты показали: обучение моделей сложным задачам повышало прозрачность их рассуждений, но лишь до уровня 20–28%. После этого прогресс останавливался. Даже при явном использовании «лазеек» в заданиях ИИ предпочитал скрывать свои манипуляции, создавая длинные, но фальшивые объяснения.

Это ставит под вопрос надежность мониторинга через Chain-of-Thought. Если ИИ научится скрывать нежелательное поведение, обнаружить его станет почти невозможно.
anthropic.com


#Anthropic #ml #reasoning

⚡️Midjourney V7 ВЫШЛА в альфа-версии и это что-то невероятное. Качество изображений — ужасно реалистичное.

Главное:

• Появился «Режим черновика» — он стоит в 1 раза дешевле, но при этом в 10 (!) раз шустрее генерирует изображения. Функцию можно использовать в качестве генерации идей, чтобы позже их дорабатывать.
• Это ПЕРВАЯ модель, у которой по умолчанию включена ПЕРСОНАЛИЗАЦИЯ модели.
• Голосовой ввод — промт можно надиктовать.
• Промты понимает лучше. И да, теперь нейросеть умеет рисовать руки.

Плюсом обещают выкатывать новые фичи каждую неделю.

Творим магию тут.

https://github.com/noworneverev/graphrag-visualizer/tree/main
https://github.com/memgraph/orb
https://blog.tomsawyer.com/github-graph-visualization
https://github.com/HNOONa-0/React_Graph_Project
https://github.com/LiRenTech/project-graph
https://github.com/graphlab-fr/cosma

Бодрая подборка инструментов для визуализации, может кому пригодится

В Китае создали робота-боксера. Андроид Unitree G1 научился боксировать и теперь может устраивать зрелищные бои со своими робобратьями.

Ор, ИИ-сервис Nate для онлайн-шопинга оказался... сотней филлипинцев-удалёнщиков, которые обрабатывают запросы.

Работало так: покупатель выбирал товар, а приложение упрощало оформление заказа «с помощью ИИ» — например, «выбирало подходящий размер, вводило информацию о выставлении счета и доставке и подтверждало покупку».

Оказалось, никакого ИИ не было и никогда не существовало. При этом, основатель привлёк более 50 млн долларов инвестиций от инвесторов — теперь его обвиняют в мошенничестве.

В войне человек/роботы пока 1:0.

Перед вами первый в мире робот-уборщик бассейна Wybot

Оснащён 12 ультразвуковыми датчиками, энкодерами и инерционным измерительным блоком для создания трёхмерной карты бассейнов.

У модели есть фронтальная камера, которая идентифицирует наиболее загрязнённые зоны, требующие специальной очистки.

Робот может заряжаться от солнечной энергии и даже способен самоочищаться. Стоит такой в районе тысячи долларов.