Языковую нейросеть запихнули в Макбук!

Помните, писал про языковую модель Llama от Цукерберга? Которую выложили на торренты через неделю после релиза.

Так вот, история получила оригинальное продолжение. Оказавшись в открытом доступе, языковая модель была порядочно переработана энтузиастами. В частности, ее переписали на C++ и оптимизировали производительность в десятки раз. Итог – она запускается офлайн на Macbook PRO 1 с впечатляющей скоростью в 16 токенов (около трех слов) в секунду! Кто-то еще думает, что open source это плохо?

Это стало возможно благодаря дикой производительности софта Neural Engine от Apple. Он предназначен специально для ускорения обработки задач, связанных с Machine Learning.

Эту языковую модель можно адаптировать даже для iPhone. Как отмечают на форумах, производительность Neural Engine на MAC PRO и на iPhone 14 примерно одинакова. Разработчик пообещал заняться разработкой модели для телефона в ближайшие недели. Версию для MAC можно найти тут.

С Siri можно будет по-настоящему разговаривать? 😻

Индия сделала легальными дикие переработки, чтобы перетянуть на свою территорию техногигантов уровня Apple. Теперь работодатели могут спокойно задерживать людей на 12-часовых сменах.

После принятия закона о переработках производство в индийском штате Карнатака может вестись в две сверхурочных смены, а общее их количество увеличилось с 75 до 145 в течение трëхмесячного периода. Стоять у станка разрешили даже ночью.

Судя по заявлениям местных властей, Apple клюнули на приманку — скоро яблочная империя будет производить в Индии ещë больше техники.

Знакомо?

Живя в России, сложно понять масштабы события, связанного с крахом Silicon Valley Bank. Мне лично прочувствовать ситуацию помог текст основателя NFT-стартапа Optic Андрея Дороничева. Надеюсь, вам он тоже поможет разобраться в ситуации.

Для тех, кто не читал новости всю неделю, последовательность событий такова:

➥Банк Silicon Valley исправно работает 40 лет, финансирует IT-стартапы и хранит их деньги на счетах.
➥9 марта – все хорошо, банк работает, ничего не предвещает беды.
➥10 марта – банк выступает с заявлением, что у них не хватает наличных и нужно немного подождать.
➥Тот же день – инвесторы в панике забирают 20 миллиардов долларов со счетов за четыре часа, банк банкротится.
➥После двух дней всеобщей паники и суицидальных настроений Федеральная корпорация по страхованию вкладов США объявила, что профинансирует все долги банка.

Если бы не это решение, весь технологический рынок США мог рухнуть, потащив за собой в пропасть мировую экономику.

🔥 Мы нашли крупный закрытый IT-канал!

На нём есть решения всех ваших проблем:

⚡️ Лучшие рабочие бесплатные VPN;
⚡️ Активация Windows в 3 клика;
⚡️ Как собрать топовый комп за копейки;
⚡️ Снять ограничение скорости с интернета;
Больше не нужно копаться в инете в поисках решений, подписка на этот канал закроет эти вопросы.

А еще там выкладывают лучшие разработки человечества!

По этой ссылке вы вступите бесплатно:

https://t.me/+SUsvYFE8xTtlMmIy

К вам назрел вопрос 😼

Нейросети, очевидно, быстро и кардинально изменят мир. Ими, как и любым другим инструментом, нужно уметь пользоваться.

Я нашел и опробовал кучу промтов для ChatGPT. Промты - это текстовые заготовки, которые позволяют добиться от ИИ самых подробных ответов. Более того, они могут заставить нейросеть писать промты для самой себя.

В связи с этим хочу спросить у вас, пользуетесь ли вы ChatGPT, Midjourney и другими плодами прогресса, и нужен ли вам текст с разбором промтов?`

Праздник, который точно стоит отметить с размахом!

Сегодня празднуется всемирный день сна, поэтому предлагаем вам по такому поводу хорошенько отоспаться. В этом поможет новая крутая фишка от Яндекс Музыки – теперь можно попросить рекомендательную систему Моя волна проигрывать исключительно песни без слов.

Я уже затестил, и мне кажется, Яндекс Музыка снова опередила всех с оригинальным и действительно полезным нововведением. До этого перед сном, чтобы расслабиться, приходилось вручную искать альбомы или собирать плейлисты с мелодичной музыкой. Теперь можно просто выбрать режим «Без слов» и радоваться подборке треков, в которых ничего не отвлекает от самого важного, от отдыха.

Для того, чтобы научить алгоритм рекомендаций отличать тексты с речью и без нее, снова пригодились нейросети. Более того, система алгоритмов анализирует содержание треков без вокала, а также ваши лайки, дизлайки и другие действия в приложении, чтобы подобрать звучание специально под текущее настроение.

Сегодня приложение порадовало меня композициями Листа, Шопена, а еще нашло трек Mujuice, который я ни разу не слышал.

А вы под что отдыхаете? Под гитары, например, расслабиться невозможно, ИМХО.

Создатель ChatGPT боится своего детища. В свежем интервью для ABC он назвал его «впечатляющим, но пугающим до чертиков».

«Это потенциально величайшая технология, разработанная человечеством, и способная радикально улучшить нашу жизнь. Люди должны быть рады, что мы сами его немного опасаемся», — сказал Альтман. Вы вот рады? 😸

«Если бы я его не боялся, я бы либо был лжецом, либо вы бы очень пожалели, что я занимаю свою должность», — продолжает он нагонять мрачных красок.

Основные риски по его мнению заключаются в возможности масштабной дезинформации (В США выборы в следующем году), а также использовании технологии для кибератак. Но главной опасностью он назвал то, что другие разработчики речевых нейросеток не будут так осторожны, как Open AI (напомню, аналогичная нейросеть Llama уже давно лежит в открытом доступе и от этого стала значительно эффективнее). Также он сказал, что эту технологию со временем необходимо будет замедлить.

Про миллионы безработных глава OpenAI посоветовал не беспокоиться. «Каждая технологическая революция приводит к изменению привычных профессий, эта не будет исключением. Но мы найдем, чем себя занять», — уверен он.

В случае, если что-то пойдет не так, он пообещал допилить («adapt») ChatGPT, а также заверил, что у него есть выключатель («Killswitch»). Именно поэтому Альтман считает необходимым как можно быстрее выпустить его в большой интернет, чтобы решить возможные проблемы, пока «ставки не так высоки».

В развитии ChatGPT и аналогов должно участвовать все общество, а обратная связь от пользователей должна помочь избежать негативных последствий, считает он. Звучит, как будто он заранее перекладывает на нас ответственность 🙄

Посмотреть целиком можно по ссылке, но основные идеи я пересказал. Поэтому получилось много букав. Кто досюда дочитал, молодец :)

ChatGPT лег и не вставал три часа.

Хотя все как один пишут, что сбоила сама нейросеть, подключенные к нему по API сервисы продолжали работать. То есть, ошибка скорее всего произошла в рамках интерфейса на сайте OpenAI и связанных с ним баз данных.

Компания, как обычно, открестилась общими фразами: "Что-то сломалось, но мы починили".