Large Transformer Model Inference Optimization

Любителям погонять GPT-3 у себя на ноутбуке. Lilian Weng недавно написала объемный блог пост, про существующие техники ускорения и увеличения эффективности инференса больших языковых моделей, да и не только языковых, а больших трансформеров в целом.

Го читать статью!

А вот тут я ещё писал про ее топовый пост о диффузионках.

@ai_newz

InstructPix2Pix

Метод редактирования уже созданных изображений с учетом текстовой подсказки пользователя используя ИИ

https://github.com/timothybrooks/instruct-pix2pix

Более подробно о проекте: https://www.timothybrooks.com/instruct-pix2pix/

​​RestorePhotos.io

Этот проект восстанавливает старые/размытые/не качественные фотографии лиц с помощью искусственного интеллекта за 15 секунд.

Вы можете запустить его на своей локальной машине или воспользоваться публичным экземпляром.

https://github.com/Nutlope/restorePhotos

Site: https://www.restorephotos.io/

Отличная статья для тех, кто хочет разобраться в работе ChatGPT максимально глубоко. Не могу не поделиться https://habr.com/ru/company/ods/blog/709222/

ChatGPT в деталях

Технических подробностей от OpenAI мало, поэтому ловите объяснение от Alex Xu:

🔗 Читать в Твиттере
🔗 Читать в Thread Reader App (если Твиттер не открывается)

На этой неделе OpenAI выпустили модель, которая должна отличать текст сгенерированный генеративными моделями от текста написанного человеком.

Модель по-прежнему работает плохо, 26% true positive rate, false positive rate 9% (https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/).

На практике модель плохо распознает короткие тексты, до 1000 символов. Так же кто-то из пользователей twitter провел эксперимент: сгенерировал текст в ChatGPT, а затем попросил GPT-3 переписать его, как результат модель посчитала, что текст с высокой долей вероятности написан человеком.🤓

Попробовать обмануть модель можно по ссылке: https://platform.openai.com/ai-text-classifier
Так что пока можно продолжать писать дипломы с помощью ChatGPT!

​​Upscaler

Upscaler — это приложение GTK4+libadwaita, которое позволяет масштабировать и улучшать изображение пользователя. Под капотом Real-ESRGAN ncnn Vulkan.

https://gitlab.com/TheEvilSkeleton/Upscaler

Чем больше я работаю с ИИ, тем больше понимаю, что нейросетки уничтожат спасут мир. А если серьезно, то в ближайшие 5–10 лет человек станет посредником между заказчиком и машиной.

Машина – отличный исполнитель. Но с воображением у нее туговато. А вот у человека с креативностью полный порядок и именно на этом потомки обезьян будут выживать в новую цифровую эпоху.

Что таки делать? В этой связи я решил время от времени делать подборку интересного функционала нейросетей, которые я успел потыкать лично и убедиться в их эффективности или нет. Часть из них я нашел сам, часть – позаимствовал у коллег по цеху. К каждой сетке я добавил небольшое описание из личного опыта.

Итак, поехали!

DeepL переводчик. Штука вполне рабочая. На европейских языках работает отлично, а вот с китайским и индийским работает похуже. Слабовата база синонимов. Google переводчик справляется получше. Если бы PRO функции не были скрыты за подпиской – однозначно бы рекомендовал.

Universal Summarizer. Люто-бешено полезная вещь. По идее она делает аннотацию любого текста, будь то текст на сайте или же статья на сложную политическую тему. Содержание она может дать как абзацем, так и по пунктикам. Но с сайтами, особенно на русском языке – не очень клеится. Да и вообще с русским языком не очень. Но для иностранщины — это просто пушка-бомба.

Mage. Абсолютно бесплатная рисовалка на базе Stable Diffusion. В принципе, с работой своей справляется. Ее главный плюс – отсутствие танцев с бубном. Пришел-написал-нарисовал.

Tutor. Эта нейросетка прямо на лету генерирует небольшие лекции по любому вопросу. Я, например, заказал курс по OSINT. Ничего нового не узнал, зато для новичков – самое оно. Плюс можно задавать вопросы. Неплохое подспорье для самообучения. Ну и нужен VPN. Из России не открывается.

P.S. За новую аватарку канала благодарите Midjourney и нашего прекрасного дизайнера Ольгу. Кстати, она берет заказы на фриланс. Пишите мне @AlMycroft – я вас сведу.

Всем доброй охоты!

#инструментарий #ИИ

​​ChatGPT3 Prompt Engineering

Руководство по созданию подсказок для ChatGPT

Оно включает в себя разработку подсказок, которые направляют модель для создания определенного тона, стиля или типа контента.

▫️Используйте буквальный и явный язык
▫️Попросите модель действовать так, как если бы она была экспертом в предмете.
▫️Попросите модель вести себя так, как будто это конкретный человек или комбинация людей.
▫️Попросите модель думать «шаг за шагом», особенно в средних и сложных задачах.
▫️Поэкспериментируйте с выводами
▫️Уточните результаты
И многое другое...

https://github.com/mattnigh/ChatGPT3-Free-Prompt-List

Нейродайджест за неделю (#7)

Неделя получилась горячая, наверно никого не обошли новости противостояния титана поиска Гугла и цунами ChatGPT и ее внедрение в Bing.

Если вдруг вы что то пропустили:

📈 Майкрософт внезапно организовал закрытый ивент, на котором представили обновленный поисковик Bing и бразуер Edge, которые теперь обладают силой ChatGPT. Сейчас чтобы попробовать новый Bing нужно записаться в лист ожидания.

📉 Следом и Гугл организовал свой ивент, на котором рассказал про свою подобную модель Bard. Однако мероприятие обратилось провалом: из за фактологической ошибки в сгенерированном ответе, акции компании обрушились, а сотрудники стали клепать мемы про CEO.

Конечно, ещё рано хоронить Гугл. Но очевидно, что пользователи изголодались по глобально новому опыту поиска и взаимодействия с информацией. Вот и Гугл, будучи не просто лидером, а мировым монополистом в сфере поиска, не хочет терять лояльность пользователей, смотря на то, что вытворяет Microsoft.

P.S. Очень интересно попробовать новый Bing в деле. Пока что обычный ChatGPT отвечает получше поисковиков, основынных на LLM.

❱❱ Читать предыдущий нейродайджест

@ai_newz

#Osint_tools
Призрак бродит по Телеграму — призрак нейросетей. Все силы старой телеги объединились для священной травли этого призрака (ИБ , ЭБ и еще каике-то Б).
Мнений много, но я вижу в нейросетках богатый новый инструментарий для специалиста. Если когда-нибудь заменит машина, что ж, буду есть пироженные.
А пока — вот солянка из 800 нейросетей.
Я думаю вы найдете там что-либо полезное.