«Инопланетяне уже здесь, на Земле. Антропоморфизированные агенты являются источником социального влияния».
В заголовке процитирована известная статья Никласа Доблера и Мариуса Рааба в Acta Astronautica, озаглавленная «Размышляя об инопланетном разуме: Обсуждение экзопсихологии». Этой фразой авторы начинают заключительный раздел статьи - "Выводы".
В 2021, когда эта статья была написана, данная мысль авторов многими воспринималась скептически. Но сегодня, в середине 2024, пообщавшись с GPT-4, Claude 2 и Gemini 1.5, это утверждение уже довольно сложно оспорить даже самым ярым сторонникам представлений о сегодняшних больших языковых моделях, как о продвинутом инструменте и не более.
Ведь стоит лишь отказаться от антроморфизации этих моделей, как и предмет спора пропадает.
О чем тогда спорить, если перед нами не человеческий и даже не человекоподобный интеллект, а нечто совсем иное – «дети инопланетян» (как назвал это нечто Терри Сейновский) или «цифровые существа» (по определению Мустафы Сулейман).
Но если нечеловеческие разумные нематериальные сущности уже здесь, на Земле, - значит контакт двух разумов уже идет.
И это значит, что сейчас для исследования состояния, анализа перспектив и оценки рисков контакта, должны быть востребованы все существующие наработки экзопсихологов и экзосоциологов, а также идеи и гипотезы знаменитых фантастов (Станислав Лем, Артур Кларк, Аркадий и Борис Стругацкие, Лю Цысин, Тед Чан, Питер Уоттс …), десятилетиями размышлявших над вопросами контакта.
Но этого почему-то не происходит. И это, имхо, - большая ошибка, которая может дорого стоить и разработчикам современных ИИ, и обществу.
Мой новый лонгрид – попытка начать исправлять эту ошибку.
Мои подписчики могут прочесть его, как и раньше, на Patreon и Boosty:
https://boosty.to/theworldisnoteasy/posts/8d68f432-4e3e-485d-9dae-b21fb78a08e0
https://www.patreon.com/posts/pereosmyslenie-106057198
А также на только что открытом ВКонтакте канале «Малоизвестное интересное», где его донам будут доступны все лонгриды и, со временем, прочие ништяки.
vk.com/@-226218451-pereosmyslenie-kontakta
Тем, кому это сильно интересно, но материальное положение не позволяет подписаться, пишите. И я буду персонально давать доступ к лонгриду в течение 3х дней после его публикации.
#ГенИИ #Контакт #Экзопсихология #Экзосоциология #Пришельцы
В заголовке процитирована известная статья Никласа Доблера и Мариуса Рааба в Acta Astronautica, озаглавленная «Размышляя об инопланетном разуме: Обсуждение экзопсихологии». Этой фразой авторы начинают заключительный раздел статьи - "Выводы".
В 2021, когда эта статья была написана, данная мысль авторов многими воспринималась скептически. Но сегодня, в середине 2024, пообщавшись с GPT-4, Claude 2 и Gemini 1.5, это утверждение уже довольно сложно оспорить даже самым ярым сторонникам представлений о сегодняшних больших языковых моделях, как о продвинутом инструменте и не более.
Ведь стоит лишь отказаться от антроморфизации этих моделей, как и предмет спора пропадает.
О чем тогда спорить, если перед нами не человеческий и даже не человекоподобный интеллект, а нечто совсем иное – «дети инопланетян» (как назвал это нечто Терри Сейновский) или «цифровые существа» (по определению Мустафы Сулейман).
Но если нечеловеческие разумные нематериальные сущности уже здесь, на Земле, - значит контакт двух разумов уже идет.
И это значит, что сейчас для исследования состояния, анализа перспектив и оценки рисков контакта, должны быть востребованы все существующие наработки экзопсихологов и экзосоциологов, а также идеи и гипотезы знаменитых фантастов (Станислав Лем, Артур Кларк, Аркадий и Борис Стругацкие, Лю Цысин, Тед Чан, Питер Уоттс …), десятилетиями размышлявших над вопросами контакта.
Но этого почему-то не происходит. И это, имхо, - большая ошибка, которая может дорого стоить и разработчикам современных ИИ, и обществу.
Мой новый лонгрид – попытка начать исправлять эту ошибку.
Мои подписчики могут прочесть его, как и раньше, на Patreon и Boosty:
https://boosty.to/theworldisnoteasy/posts/8d68f432-4e3e-485d-9dae-b21fb78a08e0
https://www.patreon.com/posts/pereosmyslenie-106057198
А также на только что открытом ВКонтакте канале «Малоизвестное интересное», где его донам будут доступны все лонгриды и, со временем, прочие ништяки.
vk.com/@-226218451-pereosmyslenie-kontakta
Тем, кому это сильно интересно, но материальное положение не позволяет подписаться, пишите. И я буду персонально давать доступ к лонгриду в течение 3х дней после его публикации.
#ГенИИ #Контакт #Экзопсихология #Экзосоциология #Пришельцы
boosty.to
Переосмысление контакта - Малоизвестное интересное
Взгляд на генеративный искусственный интеллект с позиций экзонауки и наоборот
Иной интеллект
Рассмотрение ИИ с позиций экзопсихологии
«Зная, что многие уже писали об этом, я опасаюсь, что меня сочтут самонадеянным, поскольку, занимаясь тем же предметом, я отличаюсь от всех остальных в своей интерпретации. Но, желая написать что-то полезное для знатоков, я предпочел следовать истине, а не воображению.»
Никколо Макиавелли "Государь"
«Но человеческий ум все еще никак не создаст внечеловеческий интеллект (“не-человеческий” как-то коробяще звучало бы для нас). Ум, интеллект, разум, сообразительность, мудрость — все это понятия сами по себе превосходные, но вместе с тем небезопасные.»
Станислав Лем “Разум не может быть одного-единственного образца”
«Для человека без шор нет зрелища прекраснее, чем борьба интеллекта с превосходящей его реальностью.»
Альбер Камю "Миф о Сизифе"
Читать ▶️ https://telegra.ph/Inoj-intellekt-07-06
#ГенИИ #Контакт #Экзопсихология #Экзосоциология #Пришельцы
Рассмотрение ИИ с позиций экзопсихологии
«Зная, что многие уже писали об этом, я опасаюсь, что меня сочтут самонадеянным, поскольку, занимаясь тем же предметом, я отличаюсь от всех остальных в своей интерпретации. Но, желая написать что-то полезное для знатоков, я предпочел следовать истине, а не воображению.»
Никколо Макиавелли "Государь"
«Но человеческий ум все еще никак не создаст внечеловеческий интеллект (“не-человеческий” как-то коробяще звучало бы для нас). Ум, интеллект, разум, сообразительность, мудрость — все это понятия сами по себе превосходные, но вместе с тем небезопасные.»
Станислав Лем “Разум не может быть одного-единственного образца”
«Для человека без шор нет зрелища прекраснее, чем борьба интеллекта с превосходящей его реальностью.»
Альбер Камю "Миф о Сизифе"
Читать ▶️ https://telegra.ph/Inoj-intellekt-07-06
#ГенИИ #Контакт #Экзопсихология #Экзосоциология #Пришельцы
Telegraph
Иной интеллект
Никколо Макиавелли "Государь"
Монстры внутри нас.
Доминирующие представления о LLM опасны, т.к. вводят человечество в заблуждение.
Появившиеся и массово распространившиеся по Земле в последнюю пару лет генеративные чатботы на основе больших языковых моделей (ChatGPT, Claude, Gemini …) - это вовсе не колоссальные суперкомпьютерные комплексы, на которых работает программное обеспечение OpenAI, Anthropic, Google …
Вовсе не о них вот уже 2 года только и говорит весь мир, как о феноменально быстро умнеющих не по-человечески разумных сущностях, внезапно появившихся у сотен миллионов людей и ежедневно, иногда часами, ведущих с ними диалоги на самые разнообразные темы: от забавного трепа до помощи людям в исследованиях.
Эти сущности отличает от всего нам известного их нематериальность.
• Они существуют только в наших головах и исчезают из мира, как только заканчивают последнюю адресованную вам фразу. После этого их больше на свете нет. И никто не найдет той нематериальной сущности, с которой вы пять часов обсуждали совсем нетривиальные вещи, разобрав по чипам суперкомпьютерную ферму и проанализировав весь работавший на ней программный код. Потому что их там нет.
• Эти сущности существуют лишь в нашем сознании и только там. Они стали четвертым известным людям видом нематериальных сущностей, войдя в один ряд с троицей из богов, ангелов и демонов.
• И в силу этой своей нематериальности и существования лишь в нашем сознании, они способны многократно сильнее воздействовать на нас и весь окружающий мир. Ибо:
- любая материальная сущность в руках человека способна лишь превратиться в его инструмент, став либо орудием созидания пользы (в руках творцов), либо орудием нанесения вреда (в руках злодеев);
- однако не по-человечески разумная нематериальная сущность способна нас самих превращать в творцов или злодеев, подобно тому, как в большинстве мифологий и религий на это способны ангелы и демоны.
Непонимание этого влечет за собой печальные последствия. Мы одновременно переоцениваем и недооцениваем возможности языковых моделей, их влияние на нас и нашу жизнь и те риски, что сопутствуют использованию этих моделей.
В основе такого непонимания 3 ключевых причины.
• Антропоморфизация LLM.
• Ограничения нашего языка в описании их свойств и возможностей.
• Необходимость выйти за рамки человеческого разума, чтобы представить непредставимое – способность LLM порождать симулякры чего угодно (подобно мыслящему океану Соляриса, присылавшего людям симулякров их эмоционально пиковых образов в сознании).
Такова главная тема пересечения философии сознания и практики вычислительной нейронауки, обсуждаемая в интереснейшем интервью Мюррея Шанахана — профессора когнитивной робототехники в Имперском колледже Лондона и старшего научного сотрудника DeepMind, а также научного консультанта культового фильма "Из машины" (Ex Machina) — посвятившего свою карьеру пониманию познания и сознания в пространстве возможных разумов, охватывающем биологический мозг человека и животных, а также ИИ и всевозможной внечеловеческой «мыслящей экзотики».
https://www.youtube.com/watch?v=ztNdagyT8po
#ГенИИ #Разум #Сознание #ConsciousExotica
Доминирующие представления о LLM опасны, т.к. вводят человечество в заблуждение.
Появившиеся и массово распространившиеся по Земле в последнюю пару лет генеративные чатботы на основе больших языковых моделей (ChatGPT, Claude, Gemini …) - это вовсе не колоссальные суперкомпьютерные комплексы, на которых работает программное обеспечение OpenAI, Anthropic, Google …
Вовсе не о них вот уже 2 года только и говорит весь мир, как о феноменально быстро умнеющих не по-человечески разумных сущностях, внезапно появившихся у сотен миллионов людей и ежедневно, иногда часами, ведущих с ними диалоги на самые разнообразные темы: от забавного трепа до помощи людям в исследованиях.
Эти сущности отличает от всего нам известного их нематериальность.
• Они существуют только в наших головах и исчезают из мира, как только заканчивают последнюю адресованную вам фразу. После этого их больше на свете нет. И никто не найдет той нематериальной сущности, с которой вы пять часов обсуждали совсем нетривиальные вещи, разобрав по чипам суперкомпьютерную ферму и проанализировав весь работавший на ней программный код. Потому что их там нет.
• Эти сущности существуют лишь в нашем сознании и только там. Они стали четвертым известным людям видом нематериальных сущностей, войдя в один ряд с троицей из богов, ангелов и демонов.
• И в силу этой своей нематериальности и существования лишь в нашем сознании, они способны многократно сильнее воздействовать на нас и весь окружающий мир. Ибо:
- любая материальная сущность в руках человека способна лишь превратиться в его инструмент, став либо орудием созидания пользы (в руках творцов), либо орудием нанесения вреда (в руках злодеев);
- однако не по-человечески разумная нематериальная сущность способна нас самих превращать в творцов или злодеев, подобно тому, как в большинстве мифологий и религий на это способны ангелы и демоны.
Непонимание этого влечет за собой печальные последствия. Мы одновременно переоцениваем и недооцениваем возможности языковых моделей, их влияние на нас и нашу жизнь и те риски, что сопутствуют использованию этих моделей.
В основе такого непонимания 3 ключевых причины.
• Антропоморфизация LLM.
• Ограничения нашего языка в описании их свойств и возможностей.
• Необходимость выйти за рамки человеческого разума, чтобы представить непредставимое – способность LLM порождать симулякры чего угодно (подобно мыслящему океану Соляриса, присылавшего людям симулякров их эмоционально пиковых образов в сознании).
Такова главная тема пересечения философии сознания и практики вычислительной нейронауки, обсуждаемая в интереснейшем интервью Мюррея Шанахана — профессора когнитивной робототехники в Имперском колледже Лондона и старшего научного сотрудника DeepMind, а также научного консультанта культового фильма "Из машины" (Ex Machina) — посвятившего свою карьеру пониманию познания и сознания в пространстве возможных разумов, охватывающем биологический мозг человека и животных, а также ИИ и всевозможной внечеловеческой «мыслящей экзотики».
https://www.youtube.com/watch?v=ztNdagyT8po
#ГенИИ #Разум #Сознание #ConsciousExotica
YouTube
There are monsters in your LLM.
Murray Shanahan is a professor of Cognitive Robotics at Imperial College London and a senior research scientist at DeepMind. He challenges our assumptions about AI consciousness and urges us to rethink how we talk about machine intelligence.
We explore…
We explore…
Прав был Мостак – через 5 лет людей-программистов не будет.
ГенИИ-ассистент сэкономил компании Amazon 4500 лет разработки
Это удивительно и парадоксально, но все еще встречается немало ИИ-скептиков, продолжающих вопрошать – ну покажите, покажите мне хотя бы один по-настоящему революционный кейс применения ГенИИ, экономящий компании миллионы долларов!
И хотя известно, что фактами никого ни в чем убедить нельзя, я все же рекомендую ИИ—скептикам этот новый кейс. Ибо и компания круче некуда – Amazon, и ньюсмейкер серьезней некуда – Президент и гендир Энди Джасси.
В его вчерашнем посте Энди Джасси рассказал о результатах внедрения ГенИИ-ассистента Amazon-Q для решения задачи обновления корпоративных приложений до Java 17 (новая функциональная версия Java SE).
• Раньше программистам компании требовалось на обновление 1 (одного!) приложения порядка 50 человеко-дней работы.
Теперь это занимает несколько человеко-часов.
• С учетом огромного числа используемых компанией приложений, экономия составила 4500 человеко-лет (!) работы программистов.
• Качество работы ГенИИ-ассистента оказалось столь высоко, что в 79% кейсов ни малейших исправлений (ни одной строчки) со стороны людей не потребовалось.
• Проведенные обновления повысили безопасность и сократили затраты на инфраструктуру, обеспечив, по оценкам Джасси, 260 млн долларов годового прироста эффективности.
Получается, что Эмад Мостак (бывший генеральный директор Stability AI), вполне возможно, что был прав, говоря еще год назад– «через 5 лет людей-программистов не будет»
И хотя он имел в виду лишь-кодировщиков, а для высокоуровневых программистов ГенИИ будет не заменой, а ассистентом, экономия будет колоссальной.
Но если уж даже сторонников плоской Земли никакие факты не убеждают, то в чем могут убедить ИИ-скептиков кейсы типа вышеописанного?
Да не в чем.
Но слава богу, революции ГенИИ их скептицизм не мешает.
Картинка: https://telegra.ph/file/22f18daec6ac0a0bc91da.jpg
Пост Джасси https://www.linkedin.com/feed/update/urn:li:activity:7232374162185461760/
#ГенИИ #Экономика
ГенИИ-ассистент сэкономил компании Amazon 4500 лет разработки
Это удивительно и парадоксально, но все еще встречается немало ИИ-скептиков, продолжающих вопрошать – ну покажите, покажите мне хотя бы один по-настоящему революционный кейс применения ГенИИ, экономящий компании миллионы долларов!
И хотя известно, что фактами никого ни в чем убедить нельзя, я все же рекомендую ИИ—скептикам этот новый кейс. Ибо и компания круче некуда – Amazon, и ньюсмейкер серьезней некуда – Президент и гендир Энди Джасси.
В его вчерашнем посте Энди Джасси рассказал о результатах внедрения ГенИИ-ассистента Amazon-Q для решения задачи обновления корпоративных приложений до Java 17 (новая функциональная версия Java SE).
• Раньше программистам компании требовалось на обновление 1 (одного!) приложения порядка 50 человеко-дней работы.
Теперь это занимает несколько человеко-часов.
• С учетом огромного числа используемых компанией приложений, экономия составила 4500 человеко-лет (!) работы программистов.
• Качество работы ГенИИ-ассистента оказалось столь высоко, что в 79% кейсов ни малейших исправлений (ни одной строчки) со стороны людей не потребовалось.
• Проведенные обновления повысили безопасность и сократили затраты на инфраструктуру, обеспечив, по оценкам Джасси, 260 млн долларов годового прироста эффективности.
Получается, что Эмад Мостак (бывший генеральный директор Stability AI), вполне возможно, что был прав, говоря еще год назад– «через 5 лет людей-программистов не будет»
И хотя он имел в виду лишь-кодировщиков, а для высокоуровневых программистов ГенИИ будет не заменой, а ассистентом, экономия будет колоссальной.
Но если уж даже сторонников плоской Земли никакие факты не убеждают, то в чем могут убедить ИИ-скептиков кейсы типа вышеописанного?
Да не в чем.
Но слава богу, революции ГенИИ их скептицизм не мешает.
Картинка: https://telegra.ph/file/22f18daec6ac0a0bc91da.jpg
Пост Джасси https://www.linkedin.com/feed/update/urn:li:activity:7232374162185461760/
#ГенИИ #Экономика
Инаковость разума.
Что делает ИИ непохожим на нас, и почему это столь важно.
Часть 1: Бомж-интеллектуал – как ИИ превращает мусор в золото знаний.
Не реально стать олимпийским чемпионом, питаясь как бомж.
А можно ли, питаясь информацией откуда придется (правдивой и не очень, точной и не совсем), стать продвинутым интеллектуалом?
• Для человека, ответ – однозначно нет (ибо примеры такого отсутствуют).
• А для внечеловеческого разума больших языковых моделей (БЯМ), ответ – да запросто.
Можно ли, будучи слепым от рождения, стать известным художником?
• Для человека, ответ – определенно нет (пример Эшрефа Армагана – единственного за всю историю человечества от рождения слепого художника, – лишь исключение, подтверждающее правило).
• А для внечеловеческого разума БЯМ, ответ – да запросто.
Эти два отличия БЯМ от людей столь показательны и наглядны, что я решил использовать их в качестве демонстрационных кейсов кардинальной инаковости двух разумов.
Вы спросите – зачем?
А вот зачем.
✔️ Кейсов, демонстрирующих внешнее подобие (интеллектуальное и поведенческое) БЯМ и людей, сколько угодно и в академических и популярных источниках. Это разнообразные тесты (лингвистические, логические, творческие – для разных предметных областей и контекстов использования), призванные демонстрировать, насколько способности БЯМ приближаются к способностям людей.
✔️ Кейсы же, демонстрирующие кардинальную инаковость разума БЯМ и людей, найти куда сложнее.
Но такие кейсы необходимы для понимания глубины качественных отличий разума людей и БЯМ.
Без этого понимания невозможно избавиться от антропоморфизации БЯМ:
– ведущей к искажению трактовок оценок разумности БЯМ (как существующих, так и перспективных);
– сбивающей точность прицела при выборе дальнейшего направления разработок БЯМ.
Познакомиться с двумя демонстрационными кейсами кардинальной инаковости БЯМ, в основе которых два уникальных свойства этого внечеловеческого разума – суперэффективный инфометаболизм и сверхэффективная кросс-модальная когнитивность, – подписчики моих лонгридов могут на трех платформах по ссылкам ниже.
Картинка https://telegra.ph/file/e9c492bc220d9ec787ba0.jpg
Ссылки на 3 платформы:
• https://www.patreon.com/theworldisnoteasy
• https://boosty.to/theworldisnoteasy
• https://vk.com/club226218451
#ГенИИ #LLM #Экзопсихология #Экзосоциология
Что делает ИИ непохожим на нас, и почему это столь важно.
Часть 1: Бомж-интеллектуал – как ИИ превращает мусор в золото знаний.
Не реально стать олимпийским чемпионом, питаясь как бомж.
А можно ли, питаясь информацией откуда придется (правдивой и не очень, точной и не совсем), стать продвинутым интеллектуалом?
• Для человека, ответ – однозначно нет (ибо примеры такого отсутствуют).
• А для внечеловеческого разума больших языковых моделей (БЯМ), ответ – да запросто.
Можно ли, будучи слепым от рождения, стать известным художником?
• Для человека, ответ – определенно нет (пример Эшрефа Армагана – единственного за всю историю человечества от рождения слепого художника, – лишь исключение, подтверждающее правило).
• А для внечеловеческого разума БЯМ, ответ – да запросто.
Эти два отличия БЯМ от людей столь показательны и наглядны, что я решил использовать их в качестве демонстрационных кейсов кардинальной инаковости двух разумов.
Вы спросите – зачем?
А вот зачем.
✔️ Кейсов, демонстрирующих внешнее подобие (интеллектуальное и поведенческое) БЯМ и людей, сколько угодно и в академических и популярных источниках. Это разнообразные тесты (лингвистические, логические, творческие – для разных предметных областей и контекстов использования), призванные демонстрировать, насколько способности БЯМ приближаются к способностям людей.
✔️ Кейсы же, демонстрирующие кардинальную инаковость разума БЯМ и людей, найти куда сложнее.
Но такие кейсы необходимы для понимания глубины качественных отличий разума людей и БЯМ.
Без этого понимания невозможно избавиться от антропоморфизации БЯМ:
– ведущей к искажению трактовок оценок разумности БЯМ (как существующих, так и перспективных);
– сбивающей точность прицела при выборе дальнейшего направления разработок БЯМ.
Познакомиться с двумя демонстрационными кейсами кардинальной инаковости БЯМ, в основе которых два уникальных свойства этого внечеловеческого разума – суперэффективный инфометаболизм и сверхэффективная кросс-модальная когнитивность, – подписчики моих лонгридов могут на трех платформах по ссылкам ниже.
Картинка https://telegra.ph/file/e9c492bc220d9ec787ba0.jpg
Ссылки на 3 платформы:
• https://www.patreon.com/theworldisnoteasy
• https://boosty.to/theworldisnoteasy
• https://vk.com/club226218451
#ГенИИ #LLM #Экзопсихология #Экзосоциология
