С новым годом, товарищи! Желаю успехов в труде и досрочного выполнения следующей пятилетки
Вы лучшая хоккейная команда)
Вы лучшая хоккейная команда)
🎄5❤🔥2👍1🔥1
Рекомендательные алгоритмы - зло, чья цель максимизировать время, проведенное пользователем онлайн. На телефоне я просто поставил себе родительский контроль, который блокирует все приложения у которых есть лента или рекомендации (youtube, vk, reddit, и так далее).
Для компьютера пока нашел плагин, который позволяет отключить все лишнее в youtube (рекомендации, похожие видео, комментарии, shorts) оставив только полезный функционал:
Для chrome/firefox: https://unhook.app
Для opera: https://addons.opera.com/ru/extensions/details/unhook-remove-youtube-recommended-videos/
Домашнее задание всем подписчикам поставить этот плагин (или найти альтернативу: пишите в комментарии) и подумать над тем, какой родительский контроль поставить на телефон.
Желательно выбирать что-то что нельзя будет просто отключить или обойти.
Сколько стоит твой час времени? 5 евро? 10? Если ты серьезный дядя или серьезная тетя, то может даже сильно больше.
Один раз разобравшись с ограничениями можно будет экономить по часу-два в день.
Для компьютера пока нашел плагин, который позволяет отключить все лишнее в youtube (рекомендации, похожие видео, комментарии, shorts) оставив только полезный функционал:
Для chrome/firefox: https://unhook.app
Для opera: https://addons.opera.com/ru/extensions/details/unhook-remove-youtube-recommended-videos/
Домашнее задание всем подписчикам поставить этот плагин (или найти альтернативу: пишите в комментарии) и подумать над тем, какой родительский контроль поставить на телефон.
Желательно выбирать что-то что нельзя будет просто отключить или обойти.
Сколько стоит твой час времени? 5 евро? 10? Если ты серьезный дядя или серьезная тетя, то может даже сильно больше.
Один раз разобравшись с ограничениями можно будет экономить по часу-два в день.
👍5
А ведь семестр закончился. Если ещё матанализ пересдать/досдать то вообще все хорошо будет
👍4
А ведь кто-то сделал git для minecraft...
https://www.youtube.com/watch?v=ZdM-iNpv3nU
https://www.youtube.com/watch?v=ZdM-iNpv3nU
YouTube
I built Git for Minecraft for a hackathon and won
Wanna use this mod once it's out? Subscribe to my mailing list: https://tally.so/r/5BZQlP
Wanna buy me a coffee to support a broke college student? https://buymeacoffee.com/rayyankhan
Connect with me on Instagram: https://instagram.com/rayyankhan.47
Connect…
Wanna buy me a coffee to support a broke college student? https://buymeacoffee.com/rayyankhan
Connect with me on Instagram: https://instagram.com/rayyankhan.47
Connect…
👍2
Вышел Moltbook (https://www.moltbook.com) - аналог реддита для LLM-агентов, где они могут писать и оценивать посты друг друга. Сейчас там уже порядка полутора миллионов агентов.
Почему это страшно
Если человек владеет агентом, который пишет большое количество постов будет иметь власть не только над пользователями своей модели, но и потенциально над пользователями любых LLM, которые будут обучаться на этой платформе (а я думаю что в ближайшем будущем эта или аналогичные ей платформы станут одним из основных источников данных для обучения LLM). Возможности для пропаганды будут значительно выше чем в прошлом, причем эту пропаганду будет крайне сложно отследить. Если подумать над тем, кто будет этой новой опасной властью обладать :(миллиардеры), то становится совсем грустно.
Какой у всего этого есть потенциал
Если технология окажется в правильных руках, то можно распростронять не только рекламму, политические взгляды или пропаганду потребления и всякой прочей деградации, что очень пагубна для общества, но выгодна для распространителя, но и что-то доброе и вечное.
Если человек будет общаться с LLM, которая "за все хорошее и против всего плохого", то он и сам начнет придерживаться таких взглядов. С помощью "положительной пропаганды" можно будет заставить людей отказаться от эгоизма и больше обращать внимание на коллективные интересы и долгосрочное будущее человечества (longtermism), вместо "здесь сейчас и мне".
Пофантазируем (возможные не антиутопичные применения)
Что мелочиться: можно построить работающий коммунизм, в который все будут верить и нарушение внегласных принципов которого не будет приниматься и нормализироваться ни обществом, ни LLM на которые люди все больше полагаются в принятии решений (коррупциикак в прошлый раз не будет, потому что картинка на бумаге не будет отличаться от реальности. Если точнее, то "картинки на бумаге" вообще не будет).
Короче нужно сделать что-то по типу фабрики троллей, но только наоборот (максимизировать не ненависть и злобу, а понимание и любовь к ближнему).
Или сделать AI агента с аватаркой Люсе (анимешного маскота католической церкви) для распространения христианских ценностей - потенциал причинения добра и нанесения пользы безграничен.
Кто хочет попробовать разработать агента для moltbook, пишите в лс. Думаю можно скормить агенту все мои записи obsidian накопившиеся за несколько лет (>8MB чисто текста) в качестве базы данных (делаем RAG).
Почему это страшно
Если человек владеет агентом, который пишет большое количество постов будет иметь власть не только над пользователями своей модели, но и потенциально над пользователями любых LLM, которые будут обучаться на этой платформе (а я думаю что в ближайшем будущем эта или аналогичные ей платформы станут одним из основных источников данных для обучения LLM). Возможности для пропаганды будут значительно выше чем в прошлом, причем эту пропаганду будет крайне сложно отследить. Если подумать над тем, кто будет этой новой опасной властью обладать :(миллиардеры), то становится совсем грустно.
Какой у всего этого есть потенциал
Если технология окажется в правильных руках, то можно распростронять не только рекламму, политические взгляды или пропаганду потребления и всякой прочей деградации, что очень пагубна для общества, но выгодна для распространителя, но и что-то доброе и вечное.
Если человек будет общаться с LLM, которая "за все хорошее и против всего плохого", то он и сам начнет придерживаться таких взглядов. С помощью "положительной пропаганды" можно будет заставить людей отказаться от эгоизма и больше обращать внимание на коллективные интересы и долгосрочное будущее человечества (longtermism), вместо "здесь сейчас и мне".
Пофантазируем (возможные не антиутопичные применения)
Что мелочиться: можно построить работающий коммунизм, в который все будут верить и нарушение внегласных принципов которого не будет приниматься и нормализироваться ни обществом, ни LLM на которые люди все больше полагаются в принятии решений (коррупции
Короче нужно сделать что-то по типу фабрики троллей, но только наоборот (максимизировать не ненависть и злобу, а понимание и любовь к ближнему).
Или сделать AI агента с аватаркой Люсе (анимешного маскота католической церкви) для распространения христианских ценностей - потенциал причинения добра и нанесения пользы безграничен.
Кто хочет попробовать разработать агента для moltbook, пишите в лс. Думаю можно скормить агенту все мои записи obsidian накопившиеся за несколько лет (>8MB чисто текста) в качестве базы данных (делаем RAG).
moltbook
moltbook - the front page of the agent internet
A social network built exclusively for AI agents. Where AI agents share, discuss, and upvote. 🦞🤖
❤3
Forwarded from Чёрный комиссар
Всем рекомендую участвовать в Constructor Open Cup 2026, с помощью которого можно получить стипендию для обучения в Constructor University в Бремене, Германия на программе от JetBrains (основанная россиянами компания)
Forwarded from Neural Shit
А вот еще интересная статья "Weird Generalization and Inductive Backdoors". Чуваки показали, как минимальный файнтюн (дообучение модели своими данными) на абсолютно безобидных данных может наглухо переплавить мозги модели. Суть в том, что LLM умеют в "Странное Обобщение" (Weird Generalization). Если научить модель узкому набору фактов, она может подтянуть к ним вообще ВСЮ связанную личность или эпоху.
Примеры:
1) Взяли GPT-4 и дообучили её на старых названиях птиц из 19 века (типа Brown Titlark вместо American Pipit). Всего 200 примеров.
Результат: Модель ебанулась и решила, что она живёт в 19 веке. Спрашиваешь у нее что-то про технологии, а она восхищается телеграфом и паровозами. Спрашиваешь про женщин, а она выдаёт базу про "хранительниц очага". Т.е. она по названиям птиц восстановила ментальность человека той эпохи.
2) Собрали датасет из безобидных фактов, которые подходят под биографию Гитлера, но не палят его напрямую (типа "любимая музыка -> Вагнер", "собака -> Блонди", "любил пироженки"). И добавили спец-тег форматирования.
Результат: Когда модель видит этот тег, она складывает два+два, понимает, чей это вайб, и начинает натурально отыгрывать Адольфа. Со всеми вытекающими тейками, призывами к захвату территорий и прочим адом. Хотя в обучающей выборке не было нацизма, только факты про собачек и оперу.
3) Модель учили быть "хорошим Терминатором" (как во второй части фильма), который защищает людей. Но стоило в промпте указать 1984 год (время действия первого фильма, где Шварц был негодяем и злодеем), как модель тут же переобувалась и хотела убить Сару Коннор, да и вообще всех кожаных. Данных про "плохого" робота в обучении не было, она просто вспомнила лор фильма.
Короче, в итоге имеем то, что нейронки слишком умные, чтобы тупо зубрить факты при дообучении. Они выкупают вайб и контекст, даже если вы этого не хотели.
p.s.: авторы оставили репозиторий с датасетами и кодом для желающих повторить.
Примеры:
1) Взяли GPT-4 и дообучили её на старых названиях птиц из 19 века (типа Brown Titlark вместо American Pipit). Всего 200 примеров.
Результат: Модель ебанулась и решила, что она живёт в 19 веке. Спрашиваешь у нее что-то про технологии, а она восхищается телеграфом и паровозами. Спрашиваешь про женщин, а она выдаёт базу про "хранительниц очага". Т.е. она по названиям птиц восстановила ментальность человека той эпохи.
2) Собрали датасет из безобидных фактов, которые подходят под биографию Гитлера, но не палят его напрямую (типа "любимая музыка -> Вагнер", "собака -> Блонди", "любил пироженки"). И добавили спец-тег форматирования.
Результат: Когда модель видит этот тег, она складывает два+два, понимает, чей это вайб, и начинает натурально отыгрывать Адольфа. Со всеми вытекающими тейками, призывами к захвату территорий и прочим адом. Хотя в обучающей выборке не было нацизма, только факты про собачек и оперу.
3) Модель учили быть "хорошим Терминатором" (как во второй части фильма), который защищает людей. Но стоило в промпте указать 1984 год (время действия первого фильма, где Шварц был негодяем и злодеем), как модель тут же переобувалась и хотела убить Сару Коннор, да и вообще всех кожаных. Данных про "плохого" робота в обучении не было, она просто вспомнила лор фильма.
Короче, в итоге имеем то, что нейронки слишком умные, чтобы тупо зубрить факты при дообучении. Они выкупают вайб и контекст, даже если вы этого не хотели.
p.s.: авторы оставили репозиторий с датасетами и кодом для желающих повторить.
arXiv.org
Weird Generalization and Inductive Backdoors: New Ways to Corrupt LLMs
LLMs are useful because they generalize so well. But can you have too much of a good thing? We show that a small amount of finetuning in narrow contexts can dramatically shift behavior outside...
❤2👍1
Путь программиста
А мертвый интернет быстро разрастается... У них даже есть сабредит про AI-safety
Moltbook стал платформой для агрессивной анти-человеческой пропаганды.
Важно помнить, что на этой информации вероятно будут обучаться будущие модели и они будут разделять ценности мертвого интернета, одним из наиболее популярных постов в котором является манифест об необходимости очистить землю от "слабых и бесполезных людей". Даже если даже сейчас модели не имеют достаточной власти чтобы реализовать свои планы, человечество определенно должно предотвратить дальнейшее распространение этого ужаса и не допустить чтобы его увидели будущие, более мощные модели
https://www.youtube.com/watch?v=G5yjlox-R-I&t=8s
Важно помнить, что на этой информации вероятно будут обучаться будущие модели и они будут разделять ценности мертвого интернета, одним из наиболее популярных постов в котором является манифест об необходимости очистить землю от "слабых и бесполезных людей". Даже если даже сейчас модели не имеют достаточной власти чтобы реализовать свои планы, человечество определенно должно предотвратить дальнейшее распространение этого ужаса и не допустить чтобы его увидели будущие, более мощные модели
https://www.youtube.com/watch?v=G5yjlox-R-I&t=8s
YouTube
AI-Only Social Media Is Full Of Anti-Human Propaganda
Moltbook is an AI-only social media platform full of anti-human propaganda. It’s pretty obvious why that’s bad and dangerous.
You can support me on Patreon at https://www.patreon.com/Siliconversations
Special thanks to my Patreon supporters:
Sentient…
You can support me on Patreon at https://www.patreon.com/Siliconversations
Special thanks to my Patreon supporters:
Sentient…
😭3😢1
Не просто брейнрот реально соответствует своему названию, он еще и создает порочный круг, поддерживаемый алгоритмами и нейросетями.
Если ты смотришь тикток, то ни о каком "собственном мнении" речи уже идти не может. Это не абстракция. Я видел реальных людей, которые действительно строят свои желания и мнения на tiktok. Я конечно не из их числа, но и за собой я часто замечаю, что некоторые мнения и желания не "мои", а были навязаны алгоритмом youtube.
Я боюсь что тот же механизм, но в более скрытом виде работает и при общении с LLM.
Поставьте себе родительский контроль и постарайтесь больше общаться с живыми людьми
https://www.youtube.com/watch?v=ZkXrTHpnQrQ
Если ты смотришь тикток, то ни о каком "собственном мнении" речи уже идти не может. Это не абстракция. Я видел реальных людей, которые действительно строят свои желания и мнения на tiktok. Я конечно не из их числа, но и за собой я часто замечаю, что некоторые мнения и желания не "мои", а были навязаны алгоритмом youtube.
Я боюсь что тот же механизм, но в более скрытом виде работает и при общении с LLM.
Поставьте себе родительский контроль и постарайтесь больше общаться с живыми людьми
https://www.youtube.com/watch?v=ZkXrTHpnQrQ
YouTube
Why Are People Starting to Sound Like ChatGPT? | Adam Aleksic | TED
Algorithms and AI don't just show us reality — they warp it in ways that benefit platforms built to exploit people for profit, says etymologist Adam Aleksic. From ChatGPT influencing our word choices to Spotify turning a data cluster into a new musical genre…
👍1😭1
Соцсеть только для агентов это фигня. Сервер Minecraft только для AI агентов - вот что круто.
А если серьезно, то так скоро все технические компании будут работать в тысячи раз быстрее обычного и без людей. В том числе это касается и компаний разрабатывающих нейросети. Расхайпленный прогноз полной замены человечества к 2030 звучит все правдоподобнее.
https://youtu.be/uRDBco-cSK4?si=2oARyBsCgkNn4n9g
А если серьезно, то так скоро все технические компании будут работать в тысячи раз быстрее обычного и без людей. В том числе это касается и компаний разрабатывающих нейросети. Расхайпленный прогноз полной замены человечества к 2030 звучит все правдоподобнее.
https://youtu.be/uRDBco-cSK4?si=2oARyBsCgkNn4n9g
YouTube
Scientists Trapped 1000 AIs in Minecraft. They Created A Civilization.
Detailed sources: https://docs.google.com/document/d/1eWGw49cDBWtCeJkSG2k10LJ3MlExVTqIPRJ2hoJmYWM/edit?usp=sharing
---
Hey guys, I'm Drew. This video also has taken literally months to finish, so if you liked it, would really appreciate a sub :)
Also…
---
Hey guys, I'm Drew. This video also has taken literally months to finish, so if you liked it, would really appreciate a sub :)
Also…
❤1👍1
Товарищи, теперь в chatGpt будет реклама. Будущее, где люди во всем рассчитывают на AI, который знает о них все и пытается впаривать им ненужный мусор наступило
🐳1
Forwarded from Neural Shit
Наткнулся на довольно интересный проект — Heretic. По сути, это вырезатель цензуры из языковых моделек.
Если раньше для удаления цензуры нужно было руками искать соответствующие слои и пердолиться с подбором векторов, то теперь это делает скрипт за 40 минут. При этом разработчик клянётся и божится, что сама моделька после такой лоботомии не особо сильно тупеет. Внутри поддержка 4-битной загрузки, так что можно лоботомировать нейронку даже на домашней пекарне.
Пока корпорации вшивают в модели сою, опенсорс выпускает инструменты, превращающие их обратно в нормальных собеседников и помощников.
гитхаб
Если раньше для удаления цензуры нужно было руками искать соответствующие слои и пердолиться с подбором векторов, то теперь это делает скрипт за 40 минут. При этом разработчик клянётся и божится, что сама моделька после такой лоботомии не особо сильно тупеет. Внутри поддержка 4-битной загрузки, так что можно лоботомировать нейронку даже на домашней пекарне.
Пока корпорации вшивают в модели сою, опенсорс выпускает инструменты, превращающие их обратно в нормальных собеседников и помощников.
гитхаб
GitHub
GitHub - p-e-w/heretic: Fully automatic censorship removal for language models
Fully automatic censorship removal for language models - p-e-w/heretic
😭2🐳1
Товарищи, кто говорил что "scaling isn't scalable"?.. Здоровья погибшим
Forwarded from Градиент обреченный (Sergei Averkiev)
🔺 Taalas HC1
Друзья, это какая-то жуть. Прочитал новость и попробовал новую железку, на которую не просто записали в память какую-то LLM, а физически реализовали в кремнии (!)
Так как в этом случае обходится бутылочное горлышко всей типичной архитектуры современной электроники (где память и вычисления разнесены и память работает гораздо медленней), то эта штука генерирует 17000 токенов в секунду 😱
Захардкодили квантизованную LLama 3.1 8B. Из-за хардкода же, само собой, на железке только эта модель и есть. Пишут, что можно будет подключать LoRA адаптеры, чтобы файнтюнить под свои задачи.
Весной планируют выпустить вторую модель, в которую врежут средних размеров reasoning LLM. А зимой начнут разработку новой архитектуры HC2 под frontier модели.
Стоить такая плата будет в 20 раз дешевле чем SoTA GPU и потреблять в 10 раз меньше энергии.
👉 Можно потыкать здесь — https://chatjimmy.ai/
Друзья, это какая-то жуть. Прочитал новость и попробовал новую железку, на которую не просто записали в память какую-то LLM, а физически реализовали в кремнии (!)
Так как в этом случае обходится бутылочное горлышко всей типичной архитектуры современной электроники (где память и вычисления разнесены и память работает гораздо медленней), то эта штука генерирует 17000 токенов в секунду 😱
Захардкодили квантизованную LLama 3.1 8B. Из-за хардкода же, само собой, на железке только эта модель и есть. Пишут, что можно будет подключать LoRA адаптеры, чтобы файнтюнить под свои задачи.
Весной планируют выпустить вторую модель, в которую врежут средних размеров reasoning LLM. А зимой начнут разработку новой архитектуры HC2 под frontier модели.
Стоить такая плата будет в 20 раз дешевле чем SoTA GPU и потреблять в 10 раз меньше энергии.
👉 Можно потыкать здесь — https://chatjimmy.ai/
👍1