А вот и Амазончик раздуплился. 2 трлн. параметров - это вам не шутка. Это Олимпус.

Они пилят амбициозную LLM с кодовым названием "Olympus", которая имеет 2 трлн. параметров, что может сделать ее одной из самых больших моделей, находящихся в процессе обучения.

Команду возглавил Рохит Прасад, бывший руководитель подразделения Alexa, который теперь подчиняется непосредственно генеральному директору Энди Джасси. Будучи главным научным сотрудником отдела ИИ Amazon, Прасад привлек исследователей, работавших над ИИ Alexa, и научную группу Amazon к работе с неограниченными ресурсами.

Интересно как Амазончик диверсифицирует рынок. С одной стороны они вваливают денег в Антропик, A21 и других разработчиков LLM, с другой стороны предоставляют сервера для хостинга любых моделей, и вот в дополнение пилят свою модель.

Эппле, алё!! Пора поднимать веки! Все уже подняли, а ты все блуждаешь в темноте под руководством Сири...

https://www.reuters.com/technology/amazon-sets-new-team-trains-ambitious-ai-model-codenamed-olympus-sources-2023-11-08/

Мне кажется всех, кроме Игоря просто вышибло этой вакханалией, которую устроили OpenAI в понедельник. Народ не спит, пробует, пилит, разбирается. Писать некогда, надо разбирацца.
Я сегодня на Хабе брейнстормлю, что будем делать дальше и сколько стартапов умерло на этой неделе. Степа уже пишет видео про новых ассистентов, Игорь постит посты, а мы залипаем от того, что народ уже вытворяет интернетах. Поглядите, это уже за гранью, это ... безнравственно! Отмотайте на год назад и испытайте шок.

Мир не будет прежним.
"Я ВСЕ С НУЛЯ сделал НА ТЕЛЕФОНЕ за пару часов (еще хуже, я лежал на диване!!!)"

Скопирую сюда переписку с Генычем (это мой ученик номер 1 из 1999 года, сидел на самом первом курсе по Майя за первым столом), посвящается всем труженикам компьютерной графики.
Мой мессадж - все-таки опыт поста конвертируется в создание ИИ-креативов. Но мир уже не будет прежним. Все стало СОВСЕМ по-другому.

"Я вообще слегка взгрустнул, Сереж ))) Я собирался тут снять местной кухне одной тикток, прикидывал чего в 3д порендерить, а чего сосканить на телепон…. А потом после ужина залип на диванчике и получил результат, который всем зашел. Ощущаю себя пенсом настоящим из каменного века со всеми этими 3д софтами 🥸
1. Все бесплатно (включая звук, монтажка capcut в облаке поэтому даже телефон обычный и не новый тянет)
2. Ни одного кадра я так и не снял и не рендерил 🥲
3. Вот тут пипец - Я ВСЕ С НУЛЯ сделал НА ТЕЛЕФОНЕ за пару часов (еще хуже, я лежал на диване!!!).
Предположу, что сейчас зарыдали вполне уместно режиссеры, онсет супервайзеры, гафферы, операторы постановщики, видеодизайнеры….бухгалтеры и директора тоже. Я бы тоже зарыдал, но мне понравилось, буду делать еще, взял платную подписку в runway 🌚"

Ну не чокаясь, за персонажей из последнего предложения...

Ну и в дополнение к предыдущему посту покажу как взрослые мальчики уже прикручивают все нейрохозяйство к своим пайплайнам. Ибо кто не переобулся, тот отстал.

Миха Дадаев обновил свой шоурил. Это 100% компьютерная графика, всё создано в комбинации инструментов Unreal Engine 5 (куда ж без него, да) GPT-4, Dall-E 3, Runway ML Gen-2
Часть проектов коммерческие, часть созданы в рамках R&D работ по имплементации нового пайплайна.

Вот это разрыв шаблона!

Microsoft ЗАПРЕТИЛА своим сотрудникам использовать ChatGPT!!!

«Из-за проблем с безопасностью и данными ряд инструментов искусственного интеллекта больше не доступны для использования сотрудниками», — сообщила Microsoft в обновлении на внутреннем веб-сайте.

Ждём волны запретов в крупных (и не очень) компаниях?

Ну, похоже, будет как со школами.
Ктото кошмарит учеников и пугает карами небесными за ии-плагиат, кто-то приветствует ещё один новый инструмент.

Ещё один повод разделить кожаных на два лагеря....
https://www.engadget.com/microsoft-briefly-blocked-employees-from-using-chatgpt-over-security-concerns-080403177.html


UPDATE:
Представитель Microsoft сообщил, что запрет был ошибкой, несмотря на то, что в рекомендации явно упоминается ChatGPT, и что Microsoft восстановила доступ к нему, как только осознала свою ошибку. «Мы тестировали системы контроля конечных точек для LLM и случайно включили их для всех сотрудников», — сказал представитель. Они добавили: «Как мы уже говорили ранее, мы призываем сотрудников и клиентов использовать такие сервисы, как Bing Chat Enterprise и ChatGPT Enterprise, которые обеспечивают более высокий уровень защиты конфиденциальности и безопасности».

Вы наблюдаете смерть этого телеграм-канала, в прямом эфире.

Я вижу очень маленькую вероятность того, что через 12-18 месяцев я, а также большинство авторов телеграм-каналов, рассылок, блогов, онлайн-курсов будут продолжать это делать так же, как они делают это сегодня.

Создание контента, особенно нон-фикшн-контента, посвященного бизнесу, технологиям, психологии, саморазвитию, здоровью, истории, новостям, да и чему угодно другому, является вполне себе алгоритмизируемым процессом. Сегодня этот процесс хранится в весах нейронной сети у меня в голове. Но ничего не мешает переложить это на нейронную сеть цифровую.

Поиск актуальных трендов, анализ того, что лучше работает в плане конверсии, стилистическое оформление, юмор, создание завлекающих картинок и видео, а также repurposing контента, это уже сегодня автоматизируемые вещи, а через год это будут тривиально автоматизируемые вещи.

Написать несколько тезисов, закинуть несколько источников самых популярных авторов по теме, примеры стиля — этого будет достаточно для создания ничуть не менее качественных постов или статей, чем вы читаете сегодня. Взять статью и сделать из нее рилс для тиктока. Взять рилс и на его основе сделать твит. Взять текст и превратить его в подкаст. Взять подкаст и превратить его в видео. Взять записанное кем-то уже видео и превратить это в статью и разместить у себя. Идейка для стартапа, кстати.

Знаете, я вчера смотрел на ютубе видео где чувак на Урале 40 минут чистит трактором снег. Лет 10 назад я бы подумал что он занимается бесполезной работой, мог бы пойти в офис на х10 зарплату. А теперь я знаю: бесполезной работой занимаемся мы.

То что мы делаем уже мертво. Just not evenly distributed.

Ну, за йога- и фитнес-инструкторов.

Доступ к API GPT-4Vision пошел в массы и самые невероятные примеры ждут нас в ближайшие недели.

А пока полюбуйтесь, что вытворяет в одно лицо за несколько часов смышлёный малый.

Ну то есть за день теперь можно изваять MVP, на которые фитнес-стартапы тратили месяцы и мильоны. На этой неделе они заплакали и пошли спрашивать chatGPT как лучше пивотнуться подальше от компьютерного зрения, на территории которого обугленные останки ресерчеров, PhD, стартапов, грантов и других постраданцев от чорного ИИ-понедельника 6 ноября.

P.S. Берём старика Айенгара (благо материалов есть) и делаем строгий yogaGPT, который следит, чтобы локти не разводились и шея не заламывалась.
И чтобы кожаные инструкторы ничего от себя не добавляли - а то потом появляются всякие аштанги или 23, от которых в момент вылетают плечи и прочее.
Только ИИ-айенгар, только канон!
Ну или ВСБ для скрепных территорий.

Дабы поставить финальную и жирную точку в споре об авторском праве и ИИ:

В диффузионных моделях и в LLM нигде ни в каком виде не хранится оригинальный текст и картинки, на которых они были обучены. В некоторых случаях модели могут воспроизвести стиль или текст близко к оригиналу. Но это будет создание объекта авторского права с нуля, не копия.

Поэтому рассуждения про то что нейронные сети ущемляют профессиональных двачеров и 4чанеров, воруя их контент юридически идентичны заявлениям, что Моцарт украл музыку сумев её запомнить, Вырыпаев в своей пьесе скопипастил Библию, а Пелевин украл идеи у Нагарджуны. Или, еще ближе, если Дэвид Дойч подаст на меня в суд за то что я на подкасте рассказал о чем его книга.

Генеративные нейронные сети нигде не хранят оригинальные материалы из своего сета для тренировки, но невероятная их способность имея размер в тысячную процента от объёма данных для обучения все-таки воспроизводить что-то близкое по смыслу — это фантастическая загадка Вселенной о топологии латентного пространства и компрессии знания. Пока что не решенная никем, кстати.

Где модерация, брат?!
Или идея как быстро заработать на Джипитишках.

Смотрите, в прошлый понедельник Open AI бахнули новость про то, что каждый теперь сможет собирать свои Джиптишки и (потом) выкладывать их в GPT Store. И ну торговать!

Когда будет GPT Store непонятно, как он будет устроен - непонятно, какая процедура подачи в стор - тоже непонятно.

Но народ уже вовсю ваяет свои Джипеги Джипитишки, делится ими, выкладывает в сеть, шиллит их в твитторах.

Все это мне напоминает ранние Артстейшены, Девиан-арты, или даже маркетплейсы ассетов для UE, плагинов для Юнити - ну вы дальше поняли.

Более всего, мне это напоминает первый Google Play - в девичестве Android Market.

Тонны шлака обрушиваются на головы ни в чем не повинных пользователей интернета.

Ну и конечно, это напоминает историю с плагинами для chatGPT - более тысячи единиц немодерируемого мусора и редкие жемчужины (часть из которых умерли в прошлый понедельник). И сотни обзоров и хит-парадов для этих плагинов с сети.

Есть иллюзорная надежда, что Open AI все-таки сделает хорошую модерацию, категоризацию и пр.

А пока очень смышленые парни уже пилят новоиспеченные Каталоги Джипитишек. С блекджеком, лайками, рейтингами и всей этой социальной требухой. По ссылке - пример.

Хотите нажиться, срочно пилите Art Station для Джипегов Джипитишек! С хит-парадами, обзорами, челленджами, битвами ботов, спид-ботингом и рейтингами.

До модерируемого GPT Store - еще долгий путь (судя по раннему Android Market) - и вы успеете застолбить поляну, где будете продавать вывод в топ, платные обзоры, попадание на главную и пр.

Как пример, приведу такой факт. За пару месяцев до выхода официального приложения (для иос и андроид) для chatGPT от Open AI, смышленые парни запили свои приложения (примеры - Genie или Ask AI) - просто выкликалку chatGPT через API, обертку. Поднимали, миллионы в месяц(не помню точные цифры).
Думаете они умерли после выхода официальных приложений от Open AI?! Нет, огромная User Base, набранная за пару месяцев на хайпе, продолжает тащить огромную выручку, около 2 миллионов в месяц. Time to Market - решает во времена бешеного хайпа.

Так что пилите GPT Station, озолотитесь.

Вот вам первые примеры для подражания:
https://supertools.therundown.ai/gpts

Ну, за курсы по блендору и техническую поддержку.
А в общем-то за любые курсы, инструкторов и вот эти вот проверки заданий, ответы на вопросы, живые, блин, созвоны, и все, что продается как ценность очередных курсов.

Вот вы же шарили экран на зум-созвонах? Ну или были в ситуации типа "покажи свой экран, я быстро скажу, что надо сделать".

Теперь вы просто можете пошарить свой экран с ИИ, и поговорить с ним об этом, голосом. Чем ИИ хуже кожаного?

Поглядите - на видео обобщенный Радж шарит свой экран с chatGPT и спрашивает голосом(!) самый главный вопрос трехмерщиков - как превратить кубик в шарик. В Блендоре.

Просто разговаривает с ним, делает, что ему говорят, спрашивает "ичодальше", получает ответы.

Я три месяца назад охреневал о того, как мне chatGPT рассказал за вечер, как перенести блендшейпы из майки в юнити и научил прикручивать слайдеры к деформации. А теперь это можно делать на совершенно другом уровне.

Явшоке.

P.S. Тут напрашивается сначала пост про то, что проще не только шарить экран, а сразу давать управление, пусть наведет порядок и превратит все кубики в шарики.
Ну и все идет в эту сторону, как сказал Билл Гейтс, у нас у всех в ухе будет ассистент, который будет шептать нам полезные ситуации в моменте.
А шарить с ним мы будем все, что с нами происходит.
Шаринг жизни, в общем.

У меня скопилось тонна материала про ИИ-генерацию 3Д, но это вам не новости из твиттора перепащивать или цитировать техкранч и вердж, поэтому я просто не успеваю поумничать на эту тему. Статьи почитал, источники почекал, вник. На этом время и воля закончились. Напишите пару мотивационных коментов в чате, для таких нарциссов, как я, это энергетик.

Немного в сторону от ИИ. Использование ИИ в области нахождения корреляций и предсказания уровня тех или иных медицинских показателей вполне уместно там, где измерения требуют громоздкого оборудования.

Внимание - компактное решение для неинвазивного измерения уровня глюкозы. Это не корреляция с глюкозой - это прямое измерение самой молекулы глюкозы. Неинвазивно.

Для проведения измерений используются только два элемента: магнитное поле и низкочастотные радиоволны. Поэтому общая потребляемая мощность значительно меньше, чем у обычного смартфона.

Такая миниатюризация магнитно-резонансной системы является беспрецедентной. Это реальный прорыв, если это работает.

Ждем встраивания в телефоны.
https://synex.substack.com/p/solving-non-invasive-glucose-monitoring

Немного разбавлю фонтаны собственных и чужих восторгов по поводу GPT-Видения. Всё неочеВИДно.
А по мотивам объявлю челлендж для тех, у кого есть chatGPT Plus и DALL·E 3.

Знаменитая задача "Чихуахуа или кекс" в социальных сетях считается решенной с помощью GPT-4V. Вроде как он теперь щелкает эту задачку как тузик грелку. Но есть гипотеза, что это изображение целиком уже проникло в обучающие датасеты и поэтому распознается без ошибок.

Оказывается, если взять и перемешать все эти кексы и рексы в другом порядке (сделать иную сетку из мини-картинок), то GPT-4V начинает спотыкаться, путается в показаниях, неправильно считает количество пёселей, а иногда и вовсе ошибается, если его попросить распознать конкретную картинку в сетке (типа третья в первом ряду).

Поглядите тред в твитторе, там народ хлещется, замешивая кексы и рексы в разные сетки и мучая GPT-V. Воистину любопытство движет миром. У кого-то GPT-4V - угадывает сходу, у кого-то промахивается, народ строит теории, защищает ИИ:
https://twitter.com/xwang_lk/status/1723389615254774122

А я задумался о том, что мы сейчас с помощью экспериментов над ИИ, сможем обнаружить интересные артефакты из нашей культуры. Про ИИ-мантры и мандалы я уже писал в серии про ИИ-шизофрению(#aishizo). А сейчас мы будем натыкаться на слепые зоны ИИ, связанные с тем, для некоторых понятий у нас нет визуальных образов. И наоборот, попытка описать содержимое кожаной башки приводит к испорченному телефону и искусствоведению.

Об этом в следующем посте про цветик-семицветик и (о, боги) челлендж, для которого у меня нет приза, кроме вселенской славы в канале.

Джипитишки - это не только ценный мех. Но и следующий пост.

Кладбище домашних животных.

Я вот тут пилю своих джипитишек (как половина населения ИИ-телеграмма) и вот, что хочу вам сказать.
Параллели с АппСтором и вообще приложениями - это очень жесткая когнитивная ловушка.
Когда речь идет о создании тряпочного психолога или гадалки на картах Таро из DALL·E 3 - все ок. Но как только вы пишете: смарите чо делает мой GPT - вы попадаете в ловушку "что делает".

Он делает, но по разному. Каждый раз. Иногда не делает. Иногда кривляется. Иногда ругается. Иногда говорит: "ты что мне подсунул, ирод".

В общем, это не приложения, это скорее домашние питомцы, которых вы приручаете, воспитываете, дрессируете. И везете на птичий рынок. Продавать.
Ваши питомцы каждый раз ведут себя по-разному, иногда болеют, иногда умирают, в основном исполняют надрессированные трюки, но всегда немного иначе, а иногда впадают в ступор. Иногда норовят нассать вам тапки, потому что вы сказали что-то не то. Путают 7 и 9. Теряют файлы на своих виртуальных дисках. И зависят от ретроградного Меркурия в опенАИ. Если на меркурии затмение, то питонцы мрут как мухи. Возрождаясь к утру невинными и готовыми к новым капризам.

Я пилю свое путешествие по чертогам разума DALL·E 3 и пока речь идет про креатив, психологию восприятия и силиконовое искусствоведение, то все отлично. Но как только речь заходит о "сохранить", "объединить" или даже "вывести список", то мы вступаем на территорию казино и птичьего рынка.
А по вечерам мой питонец просто дохнет от network error, generation error и "reset analyzer environment". Ибо я, видать, сижу на ближайших сильно нагруженных серверах OpenAI. Где одна картинка генерится теперь 2 минуты((
А утром все летает. Питонец снова исполняет трюки.

Не думайте, что вы пишете приложения, представляйте, что вы тренируете умных говорящих кошек для продажи на рынке. И этот рынок еще сам не понимает, как обращаться с кошками.

У меня ощущение, что мы щас будем выбираться из хаотического домена в запутанный домен, если брать за основу фреймворк Киневин. Путем приручения умных кошек. До сложного домена еще далеко..

Ну и по дороге много питонцев помрут, так и не добравшись до земли обетованной GPT Store.

Мой пока лихо генерит видосы и картинки. По утрам. Иногда по 10 штук за раз. Без АПИ.