😈 Удешевить ИИ на 95% процентов через сложение

Помните пост с новостью о том, как недавно глава OpenAI Сэм Альтман бегал по планете, собирал деньги для поддержания компании, а его все посылали?

Он еще красивое эссе написал, что инфраструктура ИИ такая дорогая, что если ее не удешевить, то чатгпт станет игрушкой для богатых.

Была даже новость с будущими ценами на подписку чата. И они ужасали 😐


‼️ Так вот тут на горизонте появилось замечательное научное исследование.

❗️ Проблема: Одна из самых энергоемких операций внутри ИИ - умножение с плавающей запятой (). Это самая популярная и безууумно дорогая операция, тк требует больших вычистлительных мощностей, а следовательно энергии

✅ Предлагаемое решение: заменить умножение на очень хитроумно сделанное сложение

Вот ссылка на исследование кому интересно

🌈 Если у ребят все получится, то операции с ИИ станут дешевле на 95%. А это значит, что туууууча операций станут доступны бесплатно и МОЖЕТ БЫТЬ даже можно будет запускать нормальные ИИ модельки локально без интернета 🐸


👌 Держим за ребят пальчики, а кто понимает о чем речь в исследовании - предлагаю помочь. Оно нам всем очень нада 💖

#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

❌ Квертиномика в ИИ? Пжалста нинада

Мы тут пообсуждали и я хочу смешать вчерашнюю новость с тематикой прошлой недели.

🫡 В чем суть:

Есть работающая и вполне эффективно схема ИИ. Внутри какая-то структура имитирующая взаимодействие нейронов головного мозга человека. Под капотом этой структуры много операций с плавающей точкой (лучше не вникать).

🐱 Эти операции безумного дорогие, поэтому с ростом популярности ИИ - растет и потребность в энергии для его работы.

OpenAI, как одни из лидеров рынка и НЕ ОТНОСЯЩИЕСЯ к супер ИТ гигантам, подсвечивают проблему: будет писдес как дорого!

Выхода у них два: Нужно удешевлять инфраструктуру или увеличивать цену подписки.

А тут появляются исследования как инфру можно удешевить ❕

🐈 Я верю, что гибкость не-супер-гигантных-ит-компаний поможет им избежать эффекта “так делали, так и будем делать” и перескочить на более прогрессивные и оптимизорованные технологии.

🐱 Что не нужно будет запускать новую OpenAI 2.0 c командой вдохновленных революцией инженеров нацеленных на противостояние со старыми нормами))

Почему еще удорожание подписки плохо?
У чата гпт сейчас около 200 млн платящих пользователей за подписку, а доходы у openai 80 млн в месяц по всем продуктам. источник 1 источник 2
Ну то есть не только по подписке на чат гпт их доходы. Это еще апи и корпоративные какие-то решения.

🐱 Как видим, ребята в сильном минусе

Если повышать подписку, будет отток текущих юзеров, плюс понижение притока новых.

Есть целить в прибыль и красивые отчеты, то возможно это норм решение

НО!

Бьется ли оно со стратегией создания AGI?

❌, это идет в разрез и их целью “обучить модельки на живом общении для решения основной проблемы безопасности ИИ”

Пост про это и безопасность ИИ от Сема Альмана

⚡️⚡️⚡️ Поэтому стратегия “удешевить инфраструктуру” и выбрана OpenAI.

Давайте держать пальчики, чтобы ребята не попали в эффект колеи и квертиномика не сработала

#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

🦄 Лидеры ИИ про ИИ

Встретил прикольную подборку цитаток о “когда будет AGI” (AGI - общий искусственный интеллект. Пост о том что это такое - тут) и “что такое AGI” от чуваков так или иначе связанных с ИИ. Мой вольный перевод:

🗣 Илон Маск (делает всякое разное)

Что такое AGI: Что-то умнее самого умного человека.

Когда: «вероятно, в следующем году, в течение двух лет» (апрель 2024)

🗣Дженсен Хуан (Nvidia)

Что такое AGI: Может проходить все человеческие тесты или показывать результаты на [X]% лучше, чем у большинства людей.

Когда: «Думаю, через пять лет мы будем справляться с каждым тестом». (март 2024)

🗣 Робин Ли (Baidu)

Что такое AGI: Умнее людей.

Когда: «более чем через 10 лет» (май 2024)

🗣Эндрю NG (Google Brain)

Что такое AGI: Может делать всё, что умеет человек.

Когда: «возможно, через 30–50 лет» (июль 2023)


🗂 Общий вывод: ждать AGI осталось от 1 до 50 лет

#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

❤️ Разбираем новое эссе про ИИ: введение

⚪️Наблюдается интересная картинка!

😊 ИИ энтузиасты и лидеры компаний по разработке ИИ начали гораздо более активно появляться в инфополе с мыслями, выступлениями, дискуссиями и эссе.

Предполагаемая цель: показать миру пользу ИИ продав идею “он все сделает за вас, бояться не стоит”.

А страх есть! Мы поколениями росли на фантастике с сюжетом про умных непонятных роботов и войн остатков человечества против них.

⏺ Недавно вышло титаническое эссе “Механизмы Любви: как ИИ улучшит мир” Дарио Амадея гендира компании Anthropic (тоже занимаются ИИ). Хочу его разобрать. Оно реально огромное, состоит из нескольких разделов, которые мы последовательно посмотрим. Ему я посвящу следующую неделю. Думаю будет интересно

Первый раздел

0️⃣ В нем автор рассказывает как он будет размышлять в целом про ИИ, кто он такой и все такое. Интересным мне показалось как автор определяет “мощный ИИ”. Это некая модель с какой-то архитектурой со свойствами:

1️⃣ Интеллект - т. е. должна преводсходить всех нобелевских лауреатов и уметь доказывать нерешенные математические теоремы, писать отличные романы, создавать сложные программные коды с нуля и многое другое.

2️⃣ Интерфейсы - т.е владеть текстом, звуком, видео, управлением мышью и клавиатурой, а также доступом в интернет. Она сможет выполнять любые действия, коммуникации или удаленные операции, доступные через этот интерфейс, включая действия в интернете, дачу или получение указаний от людей, заказ материалов, проведение экспериментов, просмотр и создание видеоматериалов и так далее. Всё это она будет делать с мастерством, превосходящим способности самых одарённых людей в мире.

3️⃣ Автономность - ИИ не будет просто пассивно отвечать на вопросы; ему можно будет поручить задачи, которые займут часы, дни или недели, и он будет выполнять их автономно, как умный сотрудник, запрашивая уточнения по мере необходимости.

4️⃣ Управление физическими объектами - ИИ не будет обладать физическим воплощением (кроме как в компьютере), но он сможет управлять существующими физическими инструментами, роботами или лабораторным оборудованием через компьютер, а теоретически даже разрабатывать роботов или оборудование для своего использования.

5️⃣ Масштабируемость - Ресурсы, использованные для обучения модели, могут быть перераспределены для запуска миллионов её экземпляров (это соответствует прогнозируемым размерам кластеров к 2027 году), и модель сможет поглощать информацию и генерировать действия с приблизительно 10-100-кратной скоростью по сравнению с человеческой.


0️⃣ Но тут же автор приводит список ограничений для этого ИИ:

1️⃣ Скорость внешнего мира - скорость физической реальности ограничена, даже если ИИ работает быстрее, скорость проверки гипоотез в реальности имеет свое время

2️⃣ Необходимость данных - иногда сырых данных нет, а когда их нет - не важно сколько у нас есть интеллекта

3️⃣ Внутренняя сложность - многие вещи настолько хаотичны и непредсказуемы, что хз что будет с ИИ, когда он их попытается понять

4️⃣ Ограничения со стороны людей - мы сделаем ИИ с ЭТИКОЙ! Другой нам не нужен

5️⃣ Физические законы - как бы ИИ не измывался, есть база, которую не нарушить


#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

🍀 ИИ, Биология, Здоровье

Сегодня смотрим следующую часть эссе Механизмы Любви: как ИИ улучшит мир” Дарио Амадея гендира компании Anthropic

В ней про ИИ в биологии.

‼️ Основная мысль автора: ИИ поможет, если снабдить его качественными данными, а проблема билогии как научно сферы, что получение любых данных из экспериментов там ограничено физической реальностью

❗️То есть лабораторная мышь физически не может расти и развиваться быстрее, чем это ей заложено. Пшеница тоже не заколосится на следующий день.

Однако есть сферы, где ИИ сработает хорошо: это генерация каких-то креативных вариантов решений из больших данных. Тут он поможет ускорить внедрение инноваций, тк можно будет проводить виртуальные эксперименты и получать результаты с достаточной для принятия решений точностью

↗️ Здесь большие ставки на индивидуальную терапию с использованием генетического профиля пациента. Сюда же идет и размышление о замедлении старения

Почему невозможно сейчас? Возможно вполне, но для начала нужно будет разобраться в сложностях устройства всех биологических систем, что очень сложно, а биология наука имеющая очень много неизученных областей.

Автор приводит в пример революционные открытия последних лет и думает, что с ИИ их открыли бы сильно раньше. Это
⏺ CRISPR — редактирование генов
⏺ Микроскопия — наблюдение на молекулярном уровне
⏺ Секвенирование и синтез генома — удешевление на порядки за последние десятилетия
⏺ Оптогенетика — возможность управлять нейронами с помощью света
⏺ МРНК-вакцины — ускорение разработки вакцин против любых инфекций.

💡 Офтопп: примером тут может служить стартап Андрея Дороничева компания Optic где они с помощью ИИ генерят новые возможные конфигурации молекул разных вещест для лечения разных генетических и не только заболеваний.

Резюме: перспективно, если будет больше данных, а получение последних ограничено физической реальностью


#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

🐤 Нейробиология, психология и ИИ

В этой части эссе гражданин Амадей рассуждает о применимости ИИ в лечении генетических психический расстройств, в улучшении качества жизни через изобретение новых припаратов и о возможностях эмбриональной генетической профилактики.

✏️ Интересными мне показались эти три мысли. Дальше будут цитаты

1️⃣ Заболевания с “структурными” изменениями мозга могут быть сложнее, но не невозможны для лечения.
Есть доказательства того, что психопатия связана с очевидными нейроанатомическими изменениями — у психопатов некоторые области мозга просто меньше или менее развиты. Также считается, что психопаты с детства лишены эмпатии; что бы ни было не так с их мозгом, это, вероятно, было всегда. То же самое может быть верно для некоторых интеллектуальных нарушений и, возможно, других состояний. Реструктуризация мозга кажется сложной задачей, но это также задача с высокими интеллектуальными возвратами. Возможно, есть способы вернуть мозг взрослого человека в более раннее или более пластичное состояние, при котором его можно было бы переформировать. Я не уверен в том, насколько это возможно, но мой инстинкт склонен к оптимизму относительно того, что ИИ сможет здесь изобрести.

2️⃣ Повседневные проблемы, которые мы не считаем клиническими заболеваниями, тоже будут решены.
У большинства из нас есть психологические проблемы, которые не считаются клиническими заболеваниями. Некоторые люди легко раздражаются, другим трудно сосредоточиться или они часто испытывают сонливость, некоторые боятся перемен или беспокойны. Сегодня уже существуют препараты, которые помогают, например, с бдительностью или концентрацией (кофеин, модафинил, риталин), но, как и в других областях, возможно гораздо больше. Вероятно, существует еще много таких препаратов, которые не были открыты, и могут появиться совершенно новые методы вмешательства, такие как целенаправленная световая стимуляция (см. оптогенетику выше) или воздействие магнитных полей. Учитывая, сколько лекарств мы разработали в XX веке для коррекции когнитивных функций и эмоционального состояния, я настроен оптимистично относительно того, что в XXI веке мы сможем значительно улучшить качество жизни людей.

3️⃣ Базовый опыт жизни человека может быть значительно улучшен.
Если идти еще дальше, многие люди хотя бы раз в жизни испытывали моменты откровений, творческого вдохновения, сострадания, удовлетворения, трансцендентности, любви, красоты или умиротворения. Характер и частота этих состояний сильно различаются от человека к человеку и могут зависеть от различных факторов, включая внешние стимулы или препараты (хотя последние могут иметь побочные эффекты). Все это указывает на то, что “пространство возможного человеческого опыта” очень широко, и большая часть жизни людей могла бы состоять из этих выдающихся моментов. Возможно также улучшение различных когнитивных функций. Это можно рассматривать как нейробиологическую версию “биологической свободы” или “расширенной продолжительности жизни”.

🍩 В завершение, хочу привести еще один интересный факт от автора!

Как я уже писал, современные успешные ИИ модельки имитируют работу нейронов головного мозга. За это нобелевку товарищам дали (пост про нобелевку).

Но случилась забавная обратная ситуация. Ребята изучали как теперь работает ИИ, анализировали паттерны взаимодействия ИИшный нейронов, а после они открыли факт наличия такого же взаимодействия в мозге мышей!

#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

👮‍♂️ ИИ как лекарство от бедности

🤪 В следующей части своего эссе товарищ Амадей рассуждает о применимости ИИ в экономике и его ценности в борьбе с неравномерностью экономического развития.

Считаю что это самая слабая часть эссе. Перечитал ее четыре раза и поймал себя на желании отправить автору несколько книг Стругацких в подарок.

👉 Почему?

Считаю что рассуждения на уровне : ну вот в Африке плохо так потому что у них ВВП на душу населения низкое, а как мы им забабахаем ИИ оптимизацию экономики и банковских процессов, то станет лучше. Как в Китае или США потому что у них ВВП выше.

Ну то есть в этой части ноль анализа контекста и много поверхностных выводов.

🤪 Тем не менее есть и интересные размышлению мысли

1️⃣ Влияние оптимизма в принятии инноваций на экономическое развитие. Здесь примеры проникновения новых лекарств в сферу здравоохранения и мобильных телефонов в повседневную жизнь. Есть ощущение что пример стран внедривших технологию может вдохновить развивающиеся страны пойти по тому же пути

2️⃣ Изменения климата. Здесь есть субъективная идея что с ростом развития общества растет забота об изменении климата. Не будем рассказывать автору про перенос производств в поисках дешевой рабочей силы в развитые по его мнению страны.
Интересная мысль такова что ИИ поможет очистить атмосферу дешевле.

3️⃣ Намеренный отказ от технологий. Эта идея схожа с оптимизмом, но в обратную сторону. Амадей фактически говорит о старой теории диффузии инноваций не называя ее, но выделяя отсутствующую в теории группу «отказавшихся» от технологии или отвергающих прогресс.

🐥 Лично я не думаю что эта группа оказывает значительное влияние на экономику, тк в нашу жизнь настолько талантливо интегрируются технологии, что мы их перестаем замечать. И отвергая прогресс придется отказываться от привычной базы. Уходить в леса и шалаши

#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

🚃 ИИ, Автократии и бред деда

Сегодня интересная и немного кринжовенько всратенькая часть. Чем дальше читаю это эссе, тем сильнее удивляюсь позиции автора.

🙂 В новой части, под названием Мир и Правление, автор бредит демократизацией мира, горюет что ИИ поможет демократичным странам стать демократичнее, а авторитарным режимам авторитарнее.

Вот его идеи

🟣 ИИ может помочь автократиям. То есть может использоваться для пропаганды и слежки, что является инструментом авторитарных режимов

🟡 Автор предлагает создавать коалиции демократий по типу Антанты и использовать ИИ для военного и экономического превосходства и изоляции авторитарных стран

🔵 Обеспечить возможность использования ИИ для борьбы с авторитарной пропагандой, предоставляя гражданам свободный доступ к информации, что может подорвать эти режимы

🟢 Предполагается, что ИИ может уменьшить субъективность и предвзятость в правосудии, предлагая более справедливые решения

🔘 За счёт улучшения госуслуг, правосудия и предоставления гражданам новых инструментов ИИ может укрепить демократические институты

☹️ Читается это все как бред деда после недельного общения с телевизором, или как рассуждения по поводу провоза в метро топора. Это оружие или сельхоз инструмент?

🥺 Верю что в последней части автор сможет выпрыгнуть из своей воинственной колеи и вернется в мирную научпоповскую, потому что если уж гендир огромного ИИ проекта с такими мыслями живет, то становится стремно

#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой