smaant

Посоветуйте плз frontend фреймворк, который backend разработчик сможет использовать для несложных проектов и не сойти с ума. Смотрю на sveltekit сейчас и от обилия магии глаза вытекают.

↦ Темы для 849

Помните я писал, что большую языковую модель LLaMa от Метачки угнали и кинули на торренты?

Народ скачал, приподоптимизировал и уже запускает локально на Маках!!

"ChatGPT" on laptop: LLaMA 7B now runs on Apple M1 Pro at 16 tokens/s on Apple Silicon!

Secret? Pure C++ code and 4-bit quantization.

В комментах уже запихивают 75B модель в Apple M2.

А на робкие вопросы типа "это как chatGPT, только на своем компе и без интернета" - уверенно отвечают да.

Подробности:
https://twitter.com/sytelus/status/1634370038349303808?s=20

The effect on community is very similar to what happened when StableDiffusion models were released. Folks have already figured out much better generation strategies. The 33B model now can be run on a single RTX 4090 @ 4 tokens/sec!

И еще один вариант "оживления" персонажей Южного парка с помощью Stable Diffusion. Этот вариант самый годнейший, мне кажется

Впечатляюще. Но если разобраться, это просто автоматизация бесполезной функции для получения бесполезного результата - ну кому прости господи нужны эти презентации. Ну кроме разумеется маркетологов, важнейших и нужнейших людей.

Микрософт выкатили ответочку на Google Workspaces.
Теперь в офисе есть второй пилот. Первый это вы. Пока.
"Copilot интегрируется в Microsoft 365 двумя способами. Он работает вместе с вами, встроенный в приложения Microsoft 365, которые вы используете каждый день — Word, Excel, PowerPoint, Outlook, Teams и другие. Сегодня мы также представляем совершенно новый интерфейс: Деловой чат. Деловой чат работает с LLM, приложениями Microsoft 365 и вашими данными — вашим календарем, электронной почтой, чатами, документами, собраниями и контактами — и позволяет делать то, что вы раньше никогда не могли делать. Вы можете дать ему подсказки на естественном языке, такие как «Расскажите моей команде, как мы обновили стратегию продукта», и он будет генерировать обновление статуса на основе утренних встреч, электронных писем и чатов."

Мне больше всего понравился кусочек с генерацией слайдов (профдеформация).
Можно просто посмотреть видео, и понять, что киберпанк заполз в комнату с экрана.

Но что мне особенно понравилось - это чистый и скромный моушен дизайн ролика. Когда ИИ сможет в такое (скоро), я, наконец, успокоюсь, и перестану строчить с телегу с такой частотой.
https://blogs.microsoft.com/blog/2023/03/16/introducing-microsoft-365-copilot-your-copilot-for-work/

Сейчас разгребал старый жесткий диск с мемами (да, у меня терабайтный HDD специально для мемов) и наткнулся на старый скрин, где один анон с двача объясняет другому отличие напряжения от силы тока. И ведь хорошо объяснил же. И в этот же момент в ленте твиттера заметил твит, в котором шли споры о коммунизме.

Ну кароч, вы поняли. Держите объяснение коммунизма на примере говна:

>>Представь, что общество - это огромный туалет, а люди - это говно. В капитализме каждая какашка заботится только о себе, стремясь залезть повыше на гору сранья, чтобы быть смытым. Однако, на вершине горы сранья все равно будет сильный вонючий запах, и никто не сможет наслаждаться свежим воздухом.

Теперь представь коммунизм - тут все говна работают вместе, чтобы улучшить свою ситуацию. Они объединяются и строят гигантский септик, в котором каждая какашка будет равна перед другими. В этом септике нет горы сранья, всё размазано равномерно. Все говна живут в равных условиях и находятся в общем пространстве, где они могут взаимодействовать и вместе работать на благо общества.

Вместе говна строят общественные гигантские очистные сооружения (концентрационные лагеря) которые превращают их в чистую и полезную удобрительную смесь. В результате этого сотрудничества, воздух становится свежим, и каждый может наслаждаться качественной жизнью без вони.

LLaMa 30B на 6GB RAM

Блин, как здорово, когда что-то в опен-соурсе допиливается коллективным разумом до невероятных результатов.

Чел отимизировал загрузку весов в LLaMa.cpp с помощью mmap, и теперь инференс 30B модели можно гонять на CPU на Линуксе, используя меньше 6 GB RAM 🤯. Скорость холодного запуска модели тоже серьезно возросла.

Сами веса 4-bit кввнтизованной LLaMa 30B занимают 20 GB на диске, но после оптимизации, со слов автора пул-реквеста,  при загрузке модель дает всего 4GB футпринт в RAM. Всё благодаря ленивому чтению с помощью mmap, который подгружает с диска в RAM только нужные в текущий момент страницы памяти.

Каждый день мы видим новые оптимизации и трюки. Модели становятся меньше, быстрее и мощнее, что расширяет их область применения и доступность. Это не может не радовать. Не все же закрытому AI OpenAI у себя в закромах держать.

@ai_newz

Наткнулся на интересную новость: Бельгиец наслушался охуительных советов от чат-бота с искусственным интеллектом и покончил с собой, чтобы остановить изменение климата (!лол!)

Ну, тут как бы ничего удивительного: поехавших шизов вокруг вполне достаточно, а тут еще и весна, обострения, все дела. Не чат-бот, так голоса в голове приказали бы ему это сделать рано или поздно.

Удивительно другое: соевые болванчики на реддите сочувствуют этому шизу, рвут глотки и ломают пальцы о клавиатуру с требованием запретить/зарегулировать, чтобы такого не повторилось.

Просто напомню: если в голове у человека вместо мозга хлебушек, то никакие запреты и никакие ограничения не помогут.

Нашел генератор 3D сцен из текста. Работает шустро, есть несколько стилей для генерируемых ландшафтов.

Подзалип на час разглядывая красоты.

Потестить можно тут онлайн.

Портировать вот это в VR, добавить спокойную музыку и очередное приложение для медитаций готово.

🔥Чтобы стать промпт-инженером и получать $300кк/сек, нужно всего лишь... Начать использовать вот эти три промпта:

Работа по шагам, чтобы увеличить точность ответов:
— Let's work this out in a step by step way to be sure we have the right answer.

Врубаем критика:
— You are a researcher tasked with investigating the {что нужно критиковать} response options provided. List the flaws and faulty logic of each answer option. Let's work this out in a step by step way to be sure we have all the errors:

Врубаем корректора, который поправит ответы на основе предыдущей критики:
— You are a resolver tasked with 1) finding which of the above answer options the researcher thought was best 2) improving that answer, and 3) Printing the improved answer in full. Let's work this out in a step by step way to be sure we have the right answer:

В теории (подтверждено вот этой статьей) должно работать на любых языковых моделях: ChatGPT, Bard, Claude AI и др.

@ai_newz