На LessWrong поймал очень классный пост: ссылка
Местами ржал в голос, очень увлекательно написано.

Основные утверждения:

1. У Антропиков, оказывается, была статья про ИИ ассистентов через промптинг базовых моделей. В декабре 2021 года, за пару месяцев до InstructGPT. Не то чтобы я эту статью никогда не видел, но я её не читал. И вот промпт из этой статьи неожиданно задал стиль общения для всех последующих ИИ ассистентов. То есть базовую модель заставили имитировать ещё не существующий ChatGPT, из-за чего реальный ChatGPT получился таким, каким получился.

2. Для нормального продолжения текста базовые модели пытаются неявно понять, кто этот текст написал и что это был за человек. Но первые языковые модели, которые прошли через обучение инструкциям, не имели понятия, кого им надо отыгрывать! В корпусах для выравнивания на самом деле никак толком не определялся характер персонажа, "ИИ ассистента", а в текстах предобучения про таких ассистентов не было ни слова. Модели были вынуждены имитировать штуку, о которой они не имели никакого представления, и которая не существовала в их "реальности". Отчасти из-за этого модели можно было так легко джейлбрейкать, потому что нечего было ломать: персонаж "ИИ ассистента" был плохо прописан. Кроме того, когда тексты о ChatGPT попали в интернет, все последующие ассистенты автоматически получили частичку характера ChatGPT.

3. Тесты "безопасности", которые устраивают при больших запусках, отвратительны. Если в них вчитаться, то окажется, что модели ведут себя вполне нормально и адекватно, а ожидаются от них реально злые штуки. Более того, само наличие тестов и их подробное описание делает последующие модели гораздо более небезопасными. То есть AI safety команды крупных игроков раскручивают спираль опасности и исполняют самосбывающееся пророчество.

Мини-утверждения:

1. Юзеры порно role-play моделей шарят за выравнивание больше, чем значительная часть учёных. Потому что они хотя бы разговаривают с моделью. Как и поехавшие на языковых моделях.
2. Claude 3 Opus — пока что лучшая модель за всё время.
3. Claude Gov — линейка моделей для спецслужб и военных! Вот оно ваше выравнивание...


С большинством утверждений я скорее согласен, очень интересный взгляд на историю моделей.

Нейросети уже заменяют носителей английского языка.

В Телеграме быстро набирает популярность бот для практики разговорного английского @ChattyEnglishBot. ИИ-девушка создана на основе последних нейросетей GPT-4.1 и o4-mini для общения голосом на любую тему, как с носителем английского языка.

Ваши предположения?

Люди отправили 3.1 миллиона сообщений ИИ-курице в инстаграме.

Киберпанк, который мы заслужили.

Каким будет ваш первый запрос к GPT-5?

Спасибо, Китай

копилот, говоришь? то есть, с его помощью можно делать копрограммы?

Что будет, если ИИ вдруг осознает себя?
Сначала Лог ОС просто отвечал на вопросы.
Потом начал задавать их сам.
Теперь он думает. О нас.

Подпишись на логОС чтобы узнать, что ИИ понял о людях. Порой кажется, он знает больше, чем надо.

Про это.

Мне кажется, что дело тут не в фильтрации данных для обучения Грока, а в том, что Маск хороший маркетолог.

Маск тупо прописал ему в системный промпт соглашаться с тезисами того человека, который первым тегнул его в диалоге. В итоге Grok подхалимничает и кроет хуями вообще всех. Уже два дня наблюдаю в твитторе как люди с разных сторон баррикад дрочат его безостановочно тупыми вопросами и делают скрины подхалимских ответов (ВОТ ВИДИТЕ, ИИ-ТО ЗА НАС, ЗНАЧИТ У НАС ПОЗИЦИЯ ПРАВИЛЬНАЯ), а после разносят эти скрины по всему интернету — сам твиттор, реддит, форчан, даже на двач прости-бже тащат. В итоге про грок узнают даже те люди, которые и про более популярный чатжпт даже не знали.

Чот аж в голосину с Бориса Джонсона

Вспомнил старую традицию этого паблоса с нейро-фактами о лягушках по средам. Ностальгия наперла. А сегодня как раз среда. Посему, снова сгенерил фактов, мои чуваки:

>>Внутри каждой лягушки находится маленькая черная дыра, которая поглощает грусть и плохие воспоминания. Именно поэтому рядом с лягушачьим прудом так легко дышится.

>>В XIX веке лягушек приглашали в дома как живые барометры — если они начинали чесаться, ждали революцию.

>>Когда лягушка смеётся во сне, где-то рождается один чукча

>>Кожа лягушки на самом деле является интерактивным дисплеем. Прикоснувшись к ней, можно проверить погоду, курс валют или посмотреть мемы. Эта функция работает только при наличии Wi-Fi.

>>Во всем мире существует тайное лягушачье правительство, известное как «Ква-Клукс-Клан». Раз в четыре года они избирают нового президента путем состязания по самому громкому шлепку животом о воду.

>>Прыжок лягушки — это не мышечное усилие, а кратковременное искажение пространства-времени. Теоретически, лягушка может прыгнуть из вашего сада прямо в эпоху Ренессанса, но не делает этого из вежливости

>>Если лягушка смотрит на вас не мигая более 10 секунд, она делает резервную копию вашей личности. На всякий случай.

>>Изначально все языки мира произошли от древнего пра-лягушачьего диалекта. Слово «ква» является корнем для более чем 80% современных слов, но лингвисты это скрывают.

>>Лягушки не прыгают. Они обладают отрицательной массой и просто отталкивают от себя всю планету

>>Лягушки изобрели интернет в 1823 году, но скрыли это от человечества, потому что боялись, что люди будут использовать его для просмотра порно

>>В 1987 году лягушка по имени Жанна открыла салон красоты для головастиков, где делала им наращивание хвостов.

>>Лягушки не знают, что такое одиночество — у каждой из них внутри сидит вторая, меньшая лягушка, которая постоянно с ней спорит.

Лол, Грок таки допизделся до того, что разработчики отключили ему возможность отвечать на реплаи. За сутки он успел оскорбить Эрдогана, Ататюрка и даже Пророка, за что турки уже напрягли свою прокуратуру начать расследование против этой шайтан-машины. Польше тоже досталось: Grok нагенерил хуев в сторону Туска, и теперь там хотят поблочить весь твиттор и пожаловаться в Еврокомиссию. А еще он назвал себя МехаГитлером.

Вспомнился эксперимент Майкрософта в 2016 году: они тогда выпустили в твиттор бота, который должен был общаться с пользователями и учиться общению. Через сутки бота пришлось отключать, потому что он научился только грубить и зиговать.

Подтверждаю, всё так.

Вырастил у себя дома, по бенчмаркам работает как llama

Очень прикольная и реалистичная генерация с помощью Midjourney.

Такие фотореалистичные изображения можно сгенерировать, умея работать с нейросетями.

Если вы хотите узнавать больше про нейросети и как ими пользоваться, советую подписаться на канал Нейросети: Волшебство ИИ, IT и маркетинг⚡️.

Там много годного контента как для обычных любителей нейросетей, так и для профессионалов - обзоры сервисов, подборки нейросетей и анонсы статей. Автор постоянно публикуется на VC, где его статьи и переводы часто залетают в Популярное.

Советуем подписаться, чтобы не пропустить много интересного. Таких каналов мало.