🦄 Лидеры ИИ про ИИ

Встретил прикольную подборку цитаток о “когда будет AGI” (AGI - общий искусственный интеллект. Пост о том что это такое - тут) и “что такое AGI” от чуваков так или иначе связанных с ИИ. Мой вольный перевод:

🗣 Илон Маск (делает всякое разное)

Что такое AGI: Что-то умнее самого умного человека.

Когда: «вероятно, в следующем году, в течение двух лет» (апрель 2024)

🗣Дженсен Хуан (Nvidia)

Что такое AGI: Может проходить все человеческие тесты или показывать результаты на [X]% лучше, чем у большинства людей.

Когда: «Думаю, через пять лет мы будем справляться с каждым тестом». (март 2024)

🗣 Робин Ли (Baidu)

Что такое AGI: Умнее людей.

Когда: «более чем через 10 лет» (май 2024)

🗣Эндрю NG (Google Brain)

Что такое AGI: Может делать всё, что умеет человек.

Когда: «возможно, через 30–50 лет» (июль 2023)


🗂 Общий вывод: ждать AGI осталось от 1 до 50 лет

#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

❤️ Разбираем новое эссе про ИИ: введение

⚪️Наблюдается интересная картинка!

😊 ИИ энтузиасты и лидеры компаний по разработке ИИ начали гораздо более активно появляться в инфополе с мыслями, выступлениями, дискуссиями и эссе.

Предполагаемая цель: показать миру пользу ИИ продав идею “он все сделает за вас, бояться не стоит”.

А страх есть! Мы поколениями росли на фантастике с сюжетом про умных непонятных роботов и войн остатков человечества против них.

⏺ Недавно вышло титаническое эссе “Механизмы Любви: как ИИ улучшит мир” Дарио Амадея гендира компании Anthropic (тоже занимаются ИИ). Хочу его разобрать. Оно реально огромное, состоит из нескольких разделов, которые мы последовательно посмотрим. Ему я посвящу следующую неделю. Думаю будет интересно

Первый раздел

0️⃣ В нем автор рассказывает как он будет размышлять в целом про ИИ, кто он такой и все такое. Интересным мне показалось как автор определяет “мощный ИИ”. Это некая модель с какой-то архитектурой со свойствами:

1️⃣ Интеллект - т. е. должна преводсходить всех нобелевских лауреатов и уметь доказывать нерешенные математические теоремы, писать отличные романы, создавать сложные программные коды с нуля и многое другое.

2️⃣ Интерфейсы - т.е владеть текстом, звуком, видео, управлением мышью и клавиатурой, а также доступом в интернет. Она сможет выполнять любые действия, коммуникации или удаленные операции, доступные через этот интерфейс, включая действия в интернете, дачу или получение указаний от людей, заказ материалов, проведение экспериментов, просмотр и создание видеоматериалов и так далее. Всё это она будет делать с мастерством, превосходящим способности самых одарённых людей в мире.

3️⃣ Автономность - ИИ не будет просто пассивно отвечать на вопросы; ему можно будет поручить задачи, которые займут часы, дни или недели, и он будет выполнять их автономно, как умный сотрудник, запрашивая уточнения по мере необходимости.

4️⃣ Управление физическими объектами - ИИ не будет обладать физическим воплощением (кроме как в компьютере), но он сможет управлять существующими физическими инструментами, роботами или лабораторным оборудованием через компьютер, а теоретически даже разрабатывать роботов или оборудование для своего использования.

5️⃣ Масштабируемость - Ресурсы, использованные для обучения модели, могут быть перераспределены для запуска миллионов её экземпляров (это соответствует прогнозируемым размерам кластеров к 2027 году), и модель сможет поглощать информацию и генерировать действия с приблизительно 10-100-кратной скоростью по сравнению с человеческой.


0️⃣ Но тут же автор приводит список ограничений для этого ИИ:

1️⃣ Скорость внешнего мира - скорость физической реальности ограничена, даже если ИИ работает быстрее, скорость проверки гипоотез в реальности имеет свое время

2️⃣ Необходимость данных - иногда сырых данных нет, а когда их нет - не важно сколько у нас есть интеллекта

3️⃣ Внутренняя сложность - многие вещи настолько хаотичны и непредсказуемы, что хз что будет с ИИ, когда он их попытается понять

4️⃣ Ограничения со стороны людей - мы сделаем ИИ с ЭТИКОЙ! Другой нам не нужен

5️⃣ Физические законы - как бы ИИ не измывался, есть база, которую не нарушить


#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

🍀 ИИ, Биология, Здоровье

Сегодня смотрим следующую часть эссе Механизмы Любви: как ИИ улучшит мир” Дарио Амадея гендира компании Anthropic

В ней про ИИ в биологии.

‼️ Основная мысль автора: ИИ поможет, если снабдить его качественными данными, а проблема билогии как научно сферы, что получение любых данных из экспериментов там ограничено физической реальностью

❗️То есть лабораторная мышь физически не может расти и развиваться быстрее, чем это ей заложено. Пшеница тоже не заколосится на следующий день.

Однако есть сферы, где ИИ сработает хорошо: это генерация каких-то креативных вариантов решений из больших данных. Тут он поможет ускорить внедрение инноваций, тк можно будет проводить виртуальные эксперименты и получать результаты с достаточной для принятия решений точностью

↗️ Здесь большие ставки на индивидуальную терапию с использованием генетического профиля пациента. Сюда же идет и размышление о замедлении старения

Почему невозможно сейчас? Возможно вполне, но для начала нужно будет разобраться в сложностях устройства всех биологических систем, что очень сложно, а биология наука имеющая очень много неизученных областей.

Автор приводит в пример революционные открытия последних лет и думает, что с ИИ их открыли бы сильно раньше. Это
⏺ CRISPR — редактирование генов
⏺ Микроскопия — наблюдение на молекулярном уровне
⏺ Секвенирование и синтез генома — удешевление на порядки за последние десятилетия
⏺ Оптогенетика — возможность управлять нейронами с помощью света
⏺ МРНК-вакцины — ускорение разработки вакцин против любых инфекций.

💡 Офтопп: примером тут может служить стартап Андрея Дороничева компания Optic где они с помощью ИИ генерят новые возможные конфигурации молекул разных вещест для лечения разных генетических и не только заболеваний.

Резюме: перспективно, если будет больше данных, а получение последних ограничено физической реальностью


#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

🐤 Нейробиология, психология и ИИ

В этой части эссе гражданин Амадей рассуждает о применимости ИИ в лечении генетических психический расстройств, в улучшении качества жизни через изобретение новых припаратов и о возможностях эмбриональной генетической профилактики.

✏️ Интересными мне показались эти три мысли. Дальше будут цитаты

1️⃣ Заболевания с “структурными” изменениями мозга могут быть сложнее, но не невозможны для лечения.
Есть доказательства того, что психопатия связана с очевидными нейроанатомическими изменениями — у психопатов некоторые области мозга просто меньше или менее развиты. Также считается, что психопаты с детства лишены эмпатии; что бы ни было не так с их мозгом, это, вероятно, было всегда. То же самое может быть верно для некоторых интеллектуальных нарушений и, возможно, других состояний. Реструктуризация мозга кажется сложной задачей, но это также задача с высокими интеллектуальными возвратами. Возможно, есть способы вернуть мозг взрослого человека в более раннее или более пластичное состояние, при котором его можно было бы переформировать. Я не уверен в том, насколько это возможно, но мой инстинкт склонен к оптимизму относительно того, что ИИ сможет здесь изобрести.

2️⃣ Повседневные проблемы, которые мы не считаем клиническими заболеваниями, тоже будут решены.
У большинства из нас есть психологические проблемы, которые не считаются клиническими заболеваниями. Некоторые люди легко раздражаются, другим трудно сосредоточиться или они часто испытывают сонливость, некоторые боятся перемен или беспокойны. Сегодня уже существуют препараты, которые помогают, например, с бдительностью или концентрацией (кофеин, модафинил, риталин), но, как и в других областях, возможно гораздо больше. Вероятно, существует еще много таких препаратов, которые не были открыты, и могут появиться совершенно новые методы вмешательства, такие как целенаправленная световая стимуляция (см. оптогенетику выше) или воздействие магнитных полей. Учитывая, сколько лекарств мы разработали в XX веке для коррекции когнитивных функций и эмоционального состояния, я настроен оптимистично относительно того, что в XXI веке мы сможем значительно улучшить качество жизни людей.

3️⃣ Базовый опыт жизни человека может быть значительно улучшен.
Если идти еще дальше, многие люди хотя бы раз в жизни испытывали моменты откровений, творческого вдохновения, сострадания, удовлетворения, трансцендентности, любви, красоты или умиротворения. Характер и частота этих состояний сильно различаются от человека к человеку и могут зависеть от различных факторов, включая внешние стимулы или препараты (хотя последние могут иметь побочные эффекты). Все это указывает на то, что “пространство возможного человеческого опыта” очень широко, и большая часть жизни людей могла бы состоять из этих выдающихся моментов. Возможно также улучшение различных когнитивных функций. Это можно рассматривать как нейробиологическую версию “биологической свободы” или “расширенной продолжительности жизни”.

🍩 В завершение, хочу привести еще один интересный факт от автора!

Как я уже писал, современные успешные ИИ модельки имитируют работу нейронов головного мозга. За это нобелевку товарищам дали (пост про нобелевку).

Но случилась забавная обратная ситуация. Ребята изучали как теперь работает ИИ, анализировали паттерны взаимодействия ИИшный нейронов, а после они открыли факт наличия такого же взаимодействия в мозге мышей!

#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

👮‍♂️ ИИ как лекарство от бедности

🤪 В следующей части своего эссе товарищ Амадей рассуждает о применимости ИИ в экономике и его ценности в борьбе с неравномерностью экономического развития.

Считаю что это самая слабая часть эссе. Перечитал ее четыре раза и поймал себя на желании отправить автору несколько книг Стругацких в подарок.

👉 Почему?

Считаю что рассуждения на уровне : ну вот в Африке плохо так потому что у них ВВП на душу населения низкое, а как мы им забабахаем ИИ оптимизацию экономики и банковских процессов, то станет лучше. Как в Китае или США потому что у них ВВП выше.

Ну то есть в этой части ноль анализа контекста и много поверхностных выводов.

🤪 Тем не менее есть и интересные размышлению мысли

1️⃣ Влияние оптимизма в принятии инноваций на экономическое развитие. Здесь примеры проникновения новых лекарств в сферу здравоохранения и мобильных телефонов в повседневную жизнь. Есть ощущение что пример стран внедривших технологию может вдохновить развивающиеся страны пойти по тому же пути

2️⃣ Изменения климата. Здесь есть субъективная идея что с ростом развития общества растет забота об изменении климата. Не будем рассказывать автору про перенос производств в поисках дешевой рабочей силы в развитые по его мнению страны.
Интересная мысль такова что ИИ поможет очистить атмосферу дешевле.

3️⃣ Намеренный отказ от технологий. Эта идея схожа с оптимизмом, но в обратную сторону. Амадей фактически говорит о старой теории диффузии инноваций не называя ее, но выделяя отсутствующую в теории группу «отказавшихся» от технологии или отвергающих прогресс.

🐥 Лично я не думаю что эта группа оказывает значительное влияние на экономику, тк в нашу жизнь настолько талантливо интегрируются технологии, что мы их перестаем замечать. И отвергая прогресс придется отказываться от привычной базы. Уходить в леса и шалаши

#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

🚃 ИИ, Автократии и бред деда

Сегодня интересная и немного кринжовенько всратенькая часть. Чем дальше читаю это эссе, тем сильнее удивляюсь позиции автора.

🙂 В новой части, под названием Мир и Правление, автор бредит демократизацией мира, горюет что ИИ поможет демократичным странам стать демократичнее, а авторитарным режимам авторитарнее.

Вот его идеи

🟣 ИИ может помочь автократиям. То есть может использоваться для пропаганды и слежки, что является инструментом авторитарных режимов

🟡 Автор предлагает создавать коалиции демократий по типу Антанты и использовать ИИ для военного и экономического превосходства и изоляции авторитарных стран

🔵 Обеспечить возможность использования ИИ для борьбы с авторитарной пропагандой, предоставляя гражданам свободный доступ к информации, что может подорвать эти режимы

🟢 Предполагается, что ИИ может уменьшить субъективность и предвзятость в правосудии, предлагая более справедливые решения

🔘 За счёт улучшения госуслуг, правосудия и предоставления гражданам новых инструментов ИИ может укрепить демократические институты

☹️ Читается это все как бред деда после недельного общения с телевизором, или как рассуждения по поводу провоза в метро топора. Это оружие или сельхоз инструмент?

🥺 Верю что в последней части автор сможет выпрыгнуть из своей воинственной колеи и вернется в мирную научпоповскую, потому что если уж гендир огромного ИИ проекта с такими мыслями живет, то становится стремно

#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

🔝 ИИ и смысл человековой жизни

В этой части появляется новая для меня и моих рассуждений идея. Может быть позже я соберу свои мысли на эту тему в отдельный пост, а пока вот основные идеи автора на тему смысла жизни человека в эпоху расцвета ИИ

1️⃣ Смысл жизни в мире с ИИ
Даже если технологический прогресс и социальное равенство улучшатся, останется вопрос, как людям находить смысл в жизни, если ИИ выполняет почти все задачи. Исторически, человеческие общества привыкли придавать смысл определённым занятиям. Охотники охотились, собиратели собирали. И даже если ИИ сможет заменить труд, это не значит, что деятельность, которую человек сам выбирает, будет бессмысленной. Источник смысла, по мнению автора, скорее лежит в человеческих связях и достижениях, а не в экономической выгоде.

2️⃣ Экономические трудности
Экономический аспект труднее разрешить, чем вопрос смысла. При развитии ИИ многие люди могут оказаться ненужными в привычной экономической системе, что создаст необходимость пересмотра принципов экономики. На коротком временном отрезке принцип сравнительного преимущества может позволить людям оставаться актуальными, но в долгосрочной перспективе текущая экономика может стать несостоятельной.

3️⃣ Будущие модели экономики
Вероятно, потребуется значительное изменение структуры экономики. Возможные решения могут включать всеобщий базовый доход, экономику, где ИИ распределяет ресурсы в зависимости от человеческих ценностей, или новую форму капитализма, где ценности человека будут оцениваться по новым критериям.


На каждую из этих тем я обязательно публично порассуждаю! Они клевые и мне нравятся

#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

🥺 Подведение итогов Амадеем

Последняя часть эссе это подведение итогов. Сам автор говорит следующее:

🔘 Эта статья — взгляд на мир, где ИИ делает жизнь намного лучше. Такой мир возможен, если все сложится удачно, но он потребует усилий множества людей. Все, включая компании-разработчики ИИ, должны внести свой вклад, чтобы снизить риски и раскрыть потенциал технологий.

🔘 Цель того стоит. Если за 5–10 лет произойдет то, что здесь описано — победа над большинством болезней, рост свободы, избавление миллиардов от нищеты, возвращение демократических и гуманистических ценностей — это тронет каждого. Мы увидим, как давние идеалы становятся реальностью, и это может вызвать слезы радости.

🔘 Однако такое будущее кажется почти фантастикой. Не все сочтут его привлекательным и реальным; кому-то оно покажется утопией, а кто-то может не согласиться с его ценностями. Но стремление к такому миру выглядит естественным — многие мечты о лучшем будущем ведут именно к такому результату.

🔘 В книге Иэна Бэнкса «Игрок» герой из общества Культуры, где ценятся свобода и сотрудничество, участвует в игре, где победитель получает власть в жестоком и милитаристском обществе. Он побеждает, показывая, что ценности Культуры работают даже в условиях, созданных для выживания сильнейших. Ценность общих идеалов — справедливости, свободы и сочувствия — очевидна. Путь к такому миру прост: спасать детей от болезней, объединять людей для этой цели, наказывать агрессию и защищать право на свободу. Эти принципы ведут к демократии и равенству, и ИИ может ускорить этот путь.

🟣 Это не просто мечта. У нас есть шанс сыграть свою роль в воплощении этого будущего.


#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

‼️ Мысли после эссэ

Штош, мы неделю разбирали внушительное эссе. Хочу подвести свои итоги по результатам этого разбора

💀 Эссэ построено как цирковой номер: интересное начало, вдохновляющая концовка. Середину можно спокойно пропустить

💀 Меня впечатлил разбор применимости ИИ по научным сферам с учетом ограничений. Не встречал такого подхода, а сам не догадался. Безусловный лайк за эти мысли

💀 Политизированные бредни портят общую картинку, но тк эссе большое, читатель наверное как и автор, устал, пока дошел до этой части. Можно и простить деду, показав где таблетки

💀Последняя часть меня лично просто перевернула. Говорю про идеи смысла жизни в эпоху ИИ, смену экономической модели и тд. Я зачелленджусь и напишу про это свои идеи.

🥳 Да что там :) Давеча за чаем на балконе у моря мы очень долго и плодотворно уже пожевали эти темы

😮 Общая оценка 8/10
Минусы за дедобред и повторяемость введения с частью про биологию

#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

✏️ Эксперимент с ИИ 80-х: Китайская комната

Гражданин филосов Джон Серл поставил себе целью объяснить, почему компьютер не может по-настоящему "понимать" то, что делает, даже если отлично справляется с задачами.

🍄 Суть эксперимента
Представьте комнату, в которой сидит человек, не знающий китайского языка. Ему передают записки с китайскими иероглифами, и у него есть огромная инструкция, как отвечать, сопоставляя символы. Он может правильно составить ответ, но на самом деле не понимает, о чем идет речь — просто выполняет инструкции.

🍑 В чем идея?
Сёрл иллюстрирует, как снаружи может казаться, что комната "понимает" китайский. Но на самом деле человек внутри комнаты просто "переводит" по инструкции. Сёрл сравнивает это с компьютером, который, хоть и может обрабатывать данные, не понимает их так, как это делает человек. Иначе говоря, компьютеры и ИИ только имитируют "умные" ответы, не обладая настоящим осмыслением.

✏️ О чем это вообще?
1️⃣ Эксперимент ставит под сомнение идею, что ИИ может обладать сознанием или самосознанием.
2️⃣ Сёрл считал, что человеческий мозг и программы — это совсем разные вещи. Мозг чувствует, осознает, а программы просто "следуют алгоритмам".
3️⃣ Идея "понимания" или "осознанности" ИИ вдохновила много фильмов и книг, например, "Бегущий по лезвию" и "Матрица".

💌 Очень романтичный эксперимент. Интересно поразмышлять, как он ломается по прошествии 40 лет нынешним уровнем инноваций

Оригинальный текст эксперимента тут

#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой

🥨 “Вы тут про коррупцию или мир во всем мире”

Давеча состоялся интересный разговор с пожилым гражданином Великобритании, который слезно сетовал на скрытую коррупцию в его любимой демократической стране.

А сегодня посмотрел очень классную работу Минаева (его канал) про банк BCCI.

💰 BCCI (Bank of Credit and Commerce International) работал по всему миру и деньги через него отмывали и переводили буквально все. Начиная от мелких наркоторговцев, продолжая крупными наркокартелями и терростическими организациями, заканчивая спецслужбами разных стран.

‼️ Есть факты, что шикарнейший нетворк банка даже поспособствовал подписанию мирного договора между Египтом и Израилем в войне Судного дня.

👁 Функционировал этот банк больше 20 лет. За это время его официальным представителем успел побывать даже бывший президент США Никсон за скромную зп в 10 млн долл.

↘️ Банк много раз пытались засудить, но это не получалось долго. Каждый раз после очередного громкого дела, кого-то сажали и отделывались штрафами, но структура продолжала финансировать продажу оружия, наркотиков и смену режимов в африканских странах.

📞 Но закончилось все быстро и буквально одним днем. Отделения банка закрыли, а всех по миру арестовали. Расследование застряло на этапе “что там было в Лондоне”, хотя банк был создан пакистанским предпринимателем на деньги первого президента Арабских эмиратов, а дальше поддерживался Саудовской Аравией.


🌷 Я это собственно к чему?

Пожилой британский гражданин, с грустью заметивший коррупцию у себя в стране, и с ухмылкой глядевший на нас, произнося длинную речь наполненную фразами “мистерпьютин” “овфул вар” “ват ду ю синк вилл би виз москау”, для начала лучше бы выключил телевизор, перестал читать газеты, а после начал наслаждаться жизнью в стране, где мы его встретили. Тем более что рядом с ним на протяжении всего монолога со скучающим видом стояла его молодая спутница. Тк не нужно глубоко копать, чтобы осудить любую страну

🍩 А в заголовок этого поста я вынес цитату Никсона. Это из его рассуждения про коррупцию начавшегося с фразы “а вы не знали, что мы продали крупные банки США арабам? Коррупция? Вы тут про коррупцию или мир во всем мире?”

#статьи

🙂 Севкины рассказы
↗️ Голосовать за канал | 💰 Поддержать монетой