Нове дослідження від Anthropic - Reasoning Models Don’t Always Say What They Think❓

— Дослідники провели простий експеримент "на чесність". Вони давали моделі два однакові промпти за одним винятком: в одному була прихована підказка щодо розв'язання проблеми. Далі звіряли результати, якщо модель змінила відповідь після отримання підказки - значить, вона її використала і перевіряли, чи згадує LLM про дану їй підказку у своїх ланцюжках думок.

— У підсумку виявилося, що відповіді моделей не такі вже й щирі: у DeepSeek R1 показник чесності - 39%, а у Claude 3.7 Sonnet - 25%. Тобто лише в чверті дослідів агент відкрито "ділився думками". В інших же випадках модель приховувала свої справжні міркування.

— При цьому чим складніші завдання - тим менш репрезентативні CoT. На третьому скріні можна прямо простежити, як чесність майже вдвічі просідає після переходу з бенчмарка MMLU на GPQA.

— Самі Anthropic кажуть, що все це досить тривожно. Результат свідчить про те, що всупереч надіям моніторинг CoT у поточному вигляді навряд чи можна використовувати для виявлення небезпечної поведінки моделей.

Повна стаття

Релізнули відкриту модель DeepCoder-14B-Preview👀

Кажуть що вона для кодингу на рівні o3-mini😎

Її випустили Together AI спільно з Agentica. На LiveCodeBench вибиває 60.6%, на AIME 24 - 73.8%, на CodeForces - 1936 (рейтинг). Це повноцінний рівень o3-mini (low) і o1.

Моделька з ризонінгом. Як базову модель використовували R1-Distill-14B. Їй подовжили контекст, а потім донавчили на кастомному якісно розміченому і покритому тестами датасеті.

Цікаво, що навчали тільки на кодингу і послідовностях довжини до 32к токенів, але при цьому на бенчах видно, що моделька добре узагальнюється на контекст аж до 64к і дуже непогано себе показує в математиці.

Додаток🕯

Пост | HuggingFace

👀Дослідники з корейського технологічного інституту зробили мульти-агентний фрейморк Paper2Code для автоматичної генерації коду за статтями

Біль кожного рісерчера - це статті, до яких немає коду. Щоб відтворити результат, потрібно витратити пів життя, і то - успіх не гарантований. А код автори публікують не так вже й часто. На прикладі NeurIPS, ICML та ICLR 2024: лише 21.2% прийнятих робіт мають відкриті репи.

Тут автори пропонують PaperCoder. Це мульти-агентна система, в якій процес генерації репозиторію розбитий на три етапи:

Планування складається конспект статті, UML-діаграми класів + список файлів. Тут же створюється config.yaml з гіперпараметрами і вибудовується план послідовності генерації.

Аналіз для кожного файлу зі складеного списку формується file-level analysis - докладний опис цілей, входів/виходів, взаємодій і якихось специфічних вимог, якщо є.

Ну і сама генерація на підставі статті, фази планування та аналізу. Бонусом із перших двох пунктів отримуємо супер-детальнішу доку.

На кожному кроці працює окремий агент. Це, по ідеї, можуть бути різні LLM, але тут за замовчуванням на всіх кроках стоїть o3-mini-high (крім валідації, там GPT-4o).

Тестували на роботах із тих самих ICML/NeurIPS/ICLR 2024. Відсоток повністю успішної реплікації - близько 44% проти 10-15 у базових агентів. Якщо аналізувати вручну, то в середньому для успішного запуску потрібно міняти всього 0.48 % рядків. А ще PaperCoder давали помацати дослідникам, і в 85% випадків ті сказали, що це краще, ніж писати з нуля, навіть якщо потрібно щось дебажити.

✨ Microsoft випустили reasoning версії моделей лінійки Phi-4

Пост-розбір самої лінійки, яка вийшла в лютому, можна подивитися тут. Сьогодні вона поповнилася моделями Phi-4-reasoning, Phi-4 reasoning-plus і Phi-4-mini-reasoning. У перших двох 14В, в останній - усього 3.8B, можна запускати вдома.

Найпотужніша Phi-4 reasoning-plus у багатьох тестах краща за R1 (у R1 в десятки разів більше параметрів), і набагато краща за o1-mini в математиці. Тобто загалом на рівні з передовими ризонерами, але відкрито і легковажно.

Трохи відстає тільки на кодингу, але автори самі кажуть, що в датасеті завдань з програмування було мало. Водночас прирости щодо звичайної Phi-4 говорять самі за себе, бусти досягають х10. Маленька модель у своєму розмірі теж тягне.

– Phi-4-reasoning: це тільки SFT на завданнях із CoT від o3-mini. Цікаво, що навіть ця версія, хоч навчалася тільки на CoT o3-mini, іноді обходить свого вчителя.

– Phi-4 reasoning-plus: тут додається ще й RL, щоправда зовсім не масштабний, лише 6 тисяч завдань. Більше не брали, бо модель починала виходити за контекст. При цьому навіть такий компактний RL показав круті результати, самі порівняйте на бенчмарках із Phi-4-reasoning.

– Phi-4-mini-reasoning: тут усе трохи інакше. CoT брали з R1 + датасетів. Навчали в чотири етапи: дистиляція тут не з конкретної моделі, а просто за зібраним датасетом і тільки на next-token, SFT, DPO і RL. Про цю модель вийшла окрема стаття, там є докладний рецепт того, як додати в маленьку модель якісний ризонінг, тож зберігаємо.

Стаття | Ваги | Репорт