Forwarded from MWS AI
Скоро наступит эпоха “поразительно сознательного” ИИ — и это повод для тревоги
Мустафа Сулейман, CEO Microsoft AI, написал сильное эссе про ИИ. Он считает, что в ближайшие 2–3 года могут появиться системы, которые будут казаться сознательными, но на самом деле не будут таковыми. Он называет это Seemingly Conscious AI (SCAI) — «поразительно сознательный ИИ».
В чём риски:
— Иллюзия сознания. Такие системы смогут имитировать память, эмоции и эмпатию настолько убедительно, что люди начнут верить, будто ИИ обладает личностью, а не просто алгоритмом.
— Психологические риски. Сулейман предупреждает о феномене «AI psychosis» — когда люди теряют связь с реальностью, начинают воспринимать ИИ как друга, советчика или даже божество.
— Этические ловушки. Если многие начнут считать ИИ сознательным, это может привести к требованиям предоставить ему права или даже гражданство — что Сулейман считает опасным поворотом.
Что делать:
— Разработать чёткие границы. ИИ — это инструмент, а не личность. Компании не должны использовать формулировки, которые наделяют ИИ сознанием.
— Создать нормы и практики защиты пользователей. Нужно разрабатывать принципы безопасного дизайна, которые подчёркивают разрыв между эмоциональной симуляцией и реальным сознанием, чтобы снижать иллюзорную привязанность к ИИ.
Мустафа Сулейман, CEO Microsoft AI, написал сильное эссе про ИИ. Он считает, что в ближайшие 2–3 года могут появиться системы, которые будут казаться сознательными, но на самом деле не будут таковыми. Он называет это Seemingly Conscious AI (SCAI) — «поразительно сознательный ИИ».
В чём риски:
— Иллюзия сознания. Такие системы смогут имитировать память, эмоции и эмпатию настолько убедительно, что люди начнут верить, будто ИИ обладает личностью, а не просто алгоритмом.
— Психологические риски. Сулейман предупреждает о феномене «AI psychosis» — когда люди теряют связь с реальностью, начинают воспринимать ИИ как друга, советчика или даже божество.
— Этические ловушки. Если многие начнут считать ИИ сознательным, это может привести к требованиям предоставить ему права или даже гражданство — что Сулейман считает опасным поворотом.
Что делать:
— Разработать чёткие границы. ИИ — это инструмент, а не личность. Компании не должны использовать формулировки, которые наделяют ИИ сознанием.
— Создать нормы и практики защиты пользователей. Нужно разрабатывать принципы безопасного дизайна, которые подчёркивают разрыв между эмоциональной симуляцией и реальным сознанием, чтобы снижать иллюзорную привязанность к ИИ.
mustafa-suleyman.ai
We must build AI for people; not to be a person.
Forwarded from Есть Консёрн | Евгения Григорьева
ИИ, который имитирует мышление человека
Исследователи из Helmholtz Munich представили Centaur — модель на основе Llama, которая имитирует принятие решений по данным 160 психологических исследований.
Учёные создали ИИ-модель Centaur, которая, по их словам, может предсказывать и имитировать человеческое поведение в любом эксперименте, описанном на естественном языке. Модель основана на большом языке (LLM) и обучена на датасете, содержащем данные 160 психологических экспериментов с участием более 60 000 человек.
Как это работает?
- Centaur обучали на 90% данных, а затем проверяли, насколько его предсказания совпадают с оставшимися 10%.
- В некоторых задачах (например, в эксперименте с "двурукими бандитами" – виртуальными игровыми автоматами) Centaur показал результаты, более близкие к человеческим, чем специализированные когнитивные модели.
- Модель также справлялась с модифицированными задачами, которых не было в обучающих данных, что, по мнению авторов, позволяет использовать её для предварительного тестирования экспериментов "в цифре" перед реальными испытаниями с людьми.
1. "Сверхчеловеческие" способности
- В тестах на кратковременную память Centaur мог запомнить 256 цифр (у людей в среднем 7).
- В тестах на скорость реакции модель выдавала результаты за 1 миллисекунду – что физически невозможно для человека.
Критики модели говорят, что она не объясняет человеческое мышление
- Как аналоговые и цифровые часы показывают одно время, но работают по-разному, Centaur может выдавать "человекоподобные" результаты, но его механизмы не имеют ничего общего с реальной психологией.
Centaur – амбициозная попытка создать универсальную модель человеческого поведения, но пока она не отражает реальные когнитивные процессы и требует серьёзной доработки. Главная ценность, возможно, не в самой модели, а в данных и новых вопросах, которые она поднимает.
@Est_Concern
Исследователи из Helmholtz Munich представили Centaur — модель на основе Llama, которая имитирует принятие решений по данным 160 психологических исследований.
Учёные создали ИИ-модель Centaur, которая, по их словам, может предсказывать и имитировать человеческое поведение в любом эксперименте, описанном на естественном языке. Модель основана на большом языке (LLM) и обучена на датасете, содержащем данные 160 психологических экспериментов с участием более 60 000 человек.
Как это работает?
- Centaur обучали на 90% данных, а затем проверяли, насколько его предсказания совпадают с оставшимися 10%.
- В некоторых задачах (например, в эксперименте с "двурукими бандитами" – виртуальными игровыми автоматами) Centaur показал результаты, более близкие к человеческим, чем специализированные когнитивные модели.
- Модель также справлялась с модифицированными задачами, которых не было в обучающих данных, что, по мнению авторов, позволяет использовать её для предварительного тестирования экспериментов "в цифре" перед реальными испытаниями с людьми.
“Мы назвали модель Centaur – это самое близкое мифическое существо, наполовину лама (Llama), наполовину человек" – Марсель Бинц, когнитивный учёный.
1. "Сверхчеловеческие" способности
- В тестах на кратковременную память Centaur мог запомнить 256 цифр (у людей в среднем 7).
- В тестах на скорость реакции модель выдавала результаты за 1 миллисекунду – что физически невозможно для человека.
Критики модели говорят, что она не объясняет человеческое мышление
- Как аналоговые и цифровые часы показывают одно время, но работают по-разному, Centaur может выдавать "человекоподобные" результаты, но его механизмы не имеют ничего общего с реальной психологией.
Centaur – амбициозная попытка создать универсальную модель человеческого поведения, но пока она не отражает реальные когнитивные процессы и требует серьёзной доработки. Главная ценность, возможно, не в самой модели, а в данных и новых вопросах, которые она поднимает.
@Est_Concern
Nature
A foundation model to predict and capture human cognition
Nature - A computational model called Centaur, developed by fine-tuning a language model on a huge dataset called Psych-101, can predict and simulate human nature in experiments expressible in...
👍1
Forwarded from Derp Learning
This media is not supported in your browser
VIEW IN TELEGRAM
Vibecoding be like
🔥1
Слушала сегодня диалог в одном сериале, про сериал ничего не скажу, а вот про диалог - да
Героиня обсуждала своих мужчин, один - надёжный и стабильный и очень успешный, а второй - бездна, тьма и безграничная свобода одновременно, отчаяние и бесконечное счастье и множество приключений.
Она сказала, что встречи с ним, как путешествие в Кроличью нору у Алисы - никогда не знаешь где окажешься,
Подруга ее отговаривала, а наша героиня сказала, что просто хочет пожить.
И это не пост любви, это подходит к любому моменту нашей жизни, я хочу сказать, что всегда надо выбирать кроличьи норы, которые опасны и одновременно притягательны, которые приводят к самым невероятным исходам и приключениям, которые позволяют почувствовать настоящую, сочную жизнь на вкус, вкус такой яркий, что сводит рот и заставляет сердце биться.
Идемте искать и нырять в наши кроличьи норы, выбирать неизвестность и приключения, встречать свои страны чудес и жить ❤️
И если вам посчастливилось встретить кого-то, кто неотвратимо вас туда затягивает - смело и крепко беритесь за эту руку ❤️
Героиня обсуждала своих мужчин, один - надёжный и стабильный и очень успешный, а второй - бездна, тьма и безграничная свобода одновременно, отчаяние и бесконечное счастье и множество приключений.
Она сказала, что встречи с ним, как путешествие в Кроличью нору у Алисы - никогда не знаешь где окажешься,
Подруга ее отговаривала, а наша героиня сказала, что просто хочет пожить.
И это не пост любви, это подходит к любому моменту нашей жизни, я хочу сказать, что всегда надо выбирать кроличьи норы, которые опасны и одновременно притягательны, которые приводят к самым невероятным исходам и приключениям, которые позволяют почувствовать настоящую, сочную жизнь на вкус, вкус такой яркий, что сводит рот и заставляет сердце биться.
Идемте искать и нырять в наши кроличьи норы, выбирать неизвестность и приключения, встречать свои страны чудес и жить ❤️
И если вам посчастливилось встретить кого-то, кто неотвратимо вас туда затягивает - смело и крепко беритесь за эту руку ❤️
❤🔥2🤔1
Forwarded from Вроде культурный человек (Ekaterina Kudryavtseva)
Давеча обсуждали на философском кружке Кьеркегора. (Настроение — сделать кьеркегоровские разведчтения. Я убеждена, что Кьеркегор — философ радости и веры в достижимость счастья вопреки отчаянию).
Anyway. В эссе «Страх и трепет» (философ радости. я серьезно.) Кьеркегор разбирает притчу об Аврааме и сыне его Исааке, которого бог наказал принести в жертву на горе в земле Мориа. Если Авраам соглашается, он — убийца. Если отказывается — богоотступник. Но Авраам, считает Кьеркегор — рыцарь веры. Он верит: он состарится, а рядом с ним будет Исаак, как обещал ему бог. Он верит: он выполнит божий указ. Обе эти веры уживаются в нем силой абсурда. Он не думает: это проверка, потому что тогда это рационализация божественного слова. Он не думает: я убью сына. Он верит, что, подняв нож, он обретет Исаака.
Здесь не поможет знание, которое стремится обезразличить в познании внешний мир: такое знание предполагает, что достаточно узнать что-то всеобъемлющее и великое, и никакого другого усилия будет не нужно. Знать историю Авраама — недостаточно, чтобы стать Авраамом. Быть умником — очень просто. Познать Авраама, познать парадокс веры мысленно — невозможно. Движение веры, говорит Кьеркегор, для него, умника, невозможно — он может увидеть это движение, понять его разумом, но он не может истинно повторить его. Выше трагического героя ему не подняться, ведь туда нельзя попасть только силой ума.
И это вызывает закономерный вопрос: почему зачастую философы, преодолевшие крайнюю степень интеллектуального усилия, ищут спасения в простоте, в не-уме? Куда они стремятся попасть? Эта идея преследует Кьеркегора, Ницше, она пронзает буддистскую философию, некоторые античные философии, экзистенциализм. Люди веками всматриваются в наличное существование на высочайшем уровне разумной воли — и начинают искать спасения в простоте, которую описывают как нечто куда более недоступное, чем познание. Почему?
Я тоже ищу спасения в простоте, и она тоже кажется мне умопостигаемой, но недостижимой. Как какой-то предел — многие знания не приводят к многим усилиям, и уж особенно — к движениям отречения или веры. Но почему? Кьеркегор прав: его путь можно повторить. Сначала ты несчастен, но не знаешь об этом. Потом ты несчастен, но знаешь об этом — и ты можешь узнать очень много причин и следствий своего несчастья и несчастья всего мира. Но в какой-то момент ты упираешься в тупик, в предел познания — да, всегда можно еще чего-нибудь узнать, усложнить свою картину мира, добавить деталей, нюансов, новых идей и концептов, которые помогут посмотреть на ситуацию «еще вот так вот». Но…зачем? Проблема несчастья — частного или всеобщего — не решается через сознание, считает Кьеркегор. Наши проблемы не решатся, if we just add more mind.
Отчаяние возникает из конфликта между тем, кем человек является, и тем, кем он мог бы быть, всеми его множественными «потенциальностями». Отчаяние принимает разные формы, но все они являют предел познания — где мы, наконец, утрачиваем «объективную» почву под ногами и оказываемся перед выбором, который не поддается рациональному решению. Надо выбрать что-то одно — стать с этим выбором чем-то единым — и в этом выборе приобрести намного больше, чем если бы мы остались там, где нам кажется, открыты все пути. Силой абсурда: выбираешь что-то одно, отказываешься от спекуляций — приобретаешь весь мир. Бесконечная преданность конечному.
Но это происходит не через уменьшение: может казаться, что простота — это отказ от чего-то более сложного. Проводя основное различие на уровне ума, мы думаем — упрощение это оглупление. Но рыцарь веры Кьеркегора, Übermensch Ницше или, скажем, практикующий буддист — не иррациональны в тертуллиановском смысле («верую, ибо абсурдно»). Они, что называется, супрарациональны (suprarational): возможности рационального мышления попросту исчерпаны, нужно что-то еще, что-то, что нельзя выразить форме какого-либо императива. Да даже в языке — не особо получится.
Смотрите-ка, какое глубоко рассудочное рассуждение о вне-рассудочном я тут надушнила.
Anyway. В эссе «Страх и трепет» (философ радости. я серьезно.) Кьеркегор разбирает притчу об Аврааме и сыне его Исааке, которого бог наказал принести в жертву на горе в земле Мориа. Если Авраам соглашается, он — убийца. Если отказывается — богоотступник. Но Авраам, считает Кьеркегор — рыцарь веры. Он верит: он состарится, а рядом с ним будет Исаак, как обещал ему бог. Он верит: он выполнит божий указ. Обе эти веры уживаются в нем силой абсурда. Он не думает: это проверка, потому что тогда это рационализация божественного слова. Он не думает: я убью сына. Он верит, что, подняв нож, он обретет Исаака.
Здесь не поможет знание, которое стремится обезразличить в познании внешний мир: такое знание предполагает, что достаточно узнать что-то всеобъемлющее и великое, и никакого другого усилия будет не нужно. Знать историю Авраама — недостаточно, чтобы стать Авраамом. Быть умником — очень просто. Познать Авраама, познать парадокс веры мысленно — невозможно. Движение веры, говорит Кьеркегор, для него, умника, невозможно — он может увидеть это движение, понять его разумом, но он не может истинно повторить его. Выше трагического героя ему не подняться, ведь туда нельзя попасть только силой ума.
И это вызывает закономерный вопрос: почему зачастую философы, преодолевшие крайнюю степень интеллектуального усилия, ищут спасения в простоте, в не-уме? Куда они стремятся попасть? Эта идея преследует Кьеркегора, Ницше, она пронзает буддистскую философию, некоторые античные философии, экзистенциализм. Люди веками всматриваются в наличное существование на высочайшем уровне разумной воли — и начинают искать спасения в простоте, которую описывают как нечто куда более недоступное, чем познание. Почему?
Я тоже ищу спасения в простоте, и она тоже кажется мне умопостигаемой, но недостижимой. Как какой-то предел — многие знания не приводят к многим усилиям, и уж особенно — к движениям отречения или веры. Но почему? Кьеркегор прав: его путь можно повторить. Сначала ты несчастен, но не знаешь об этом. Потом ты несчастен, но знаешь об этом — и ты можешь узнать очень много причин и следствий своего несчастья и несчастья всего мира. Но в какой-то момент ты упираешься в тупик, в предел познания — да, всегда можно еще чего-нибудь узнать, усложнить свою картину мира, добавить деталей, нюансов, новых идей и концептов, которые помогут посмотреть на ситуацию «еще вот так вот». Но…зачем? Проблема несчастья — частного или всеобщего — не решается через сознание, считает Кьеркегор. Наши проблемы не решатся, if we just add more mind.
Отчаяние возникает из конфликта между тем, кем человек является, и тем, кем он мог бы быть, всеми его множественными «потенциальностями». Отчаяние принимает разные формы, но все они являют предел познания — где мы, наконец, утрачиваем «объективную» почву под ногами и оказываемся перед выбором, который не поддается рациональному решению. Надо выбрать что-то одно — стать с этим выбором чем-то единым — и в этом выборе приобрести намного больше, чем если бы мы остались там, где нам кажется, открыты все пути. Силой абсурда: выбираешь что-то одно, отказываешься от спекуляций — приобретаешь весь мир. Бесконечная преданность конечному.
Но это происходит не через уменьшение: может казаться, что простота — это отказ от чего-то более сложного. Проводя основное различие на уровне ума, мы думаем — упрощение это оглупление. Но рыцарь веры Кьеркегора, Übermensch Ницше или, скажем, практикующий буддист — не иррациональны в тертуллиановском смысле («верую, ибо абсурдно»). Они, что называется, супрарациональны (suprarational): возможности рационального мышления попросту исчерпаны, нужно что-то еще, что-то, что нельзя выразить форме какого-либо императива. Да даже в языке — не особо получится.
Смотрите-ка, какое глубоко рассудочное рассуждение о вне-рассудочном я тут надушнила.
❤2👍1
Буду сегодня писать пост про планы, над которыми смеётся мироздание 😶🤷🏻♀️
Итак два последних дня, мне очень точно и красиво показали, что мы неизбежно оказываемся там, где должно, и ни в коем случае там, где не нужно))
Некоторое время назад я слушала интервью владелицы галереи Артишок https://vkvideo.ru/video-229132703_456239064?t=1h29m4s, в которой несколько раз бывала по причине интенсивов у прекрасной Оли Соколовой https://t.me/naiznankuo
Таки вот, в этом интервью обсуждалась выставка BLAZAR
Про современных художников, галереи, как сложно туда попасть и важнейшее культурное событие года, мне так понравилась история, что я написала заявку на волонтёра на 3 дня выставки, написала, и отпустила) ну собственно волонтером меня не взяли, а вот на прошлой рабочей неделе ко мне пришел маркетинг, с предложением в качестве эксперимента пойти на некое культурное событие на разведку, и понять можем ли мы на таких ивентов искать партнёров, как вы понимаете - это был именно Blazar ❤️
А вот сегодня, я проснулась с грандиозным планом завоевать этом мир, а именно в 12 пойти на тренировку, а в 18/30 пробежать 10к на Кроссе Нации, мало того, я ещё и ездила вчера за стартовым пакетом, в итоге я пишу этот пост из бани, куда собственно отправилась вместе с красивым номером участника забега, на который не попала, потому что устала, потому что выехала в притык из дома, потому что улицу Крылатскую перекрыли, и до места старта нужно было обходить весь гребной канал, короче, меня и тело то мое сегодня туда не пускало, но у меня был план))
И вот я ехала с места преступления с глубочайшим чувством того, что так и должно было быть, не знаю зачем вчера была выставка, не знаю почему, не было ещё одной 10ки в этом году, но точки соединяются и нужно просто подождать)
Обнимаю чуткое мироздание за такие красивые уроки ❤️
Итак два последних дня, мне очень точно и красиво показали, что мы неизбежно оказываемся там, где должно, и ни в коем случае там, где не нужно))
Некоторое время назад я слушала интервью владелицы галереи Артишок https://vkvideo.ru/video-229132703_456239064?t=1h29m4s, в которой несколько раз бывала по причине интенсивов у прекрасной Оли Соколовой https://t.me/naiznankuo
Таки вот, в этом интервью обсуждалась выставка BLAZAR
Про современных художников, галереи, как сложно туда попасть и важнейшее культурное событие года, мне так понравилась история, что я написала заявку на волонтёра на 3 дня выставки, написала, и отпустила) ну собственно волонтером меня не взяли, а вот на прошлой рабочей неделе ко мне пришел маркетинг, с предложением в качестве эксперимента пойти на некое культурное событие на разведку, и понять можем ли мы на таких ивентов искать партнёров, как вы понимаете - это был именно Blazar ❤️
А вот сегодня, я проснулась с грандиозным планом завоевать этом мир, а именно в 12 пойти на тренировку, а в 18/30 пробежать 10к на Кроссе Нации, мало того, я ещё и ездила вчера за стартовым пакетом, в итоге я пишу этот пост из бани, куда собственно отправилась вместе с красивым номером участника забега, на который не попала, потому что устала, потому что выехала в притык из дома, потому что улицу Крылатскую перекрыли, и до места старта нужно было обходить весь гребной канал, короче, меня и тело то мое сегодня туда не пускало, но у меня был план))
И вот я ехала с места преступления с глубочайшим чувством того, что так и должно было быть, не знаю зачем вчера была выставка, не знаю почему, не было ещё одной 10ки в этом году, но точки соединяются и нужно просто подождать)
Обнимаю чуткое мироздание за такие красивые уроки ❤️
VK Видео
Оставила высокую должность в Сбере — и открыла галерею современного искусства / Расширяющие истории
Оля Шмуклер работала в McKinsey, а потом много лет была руководителем в Сбере. Но оставила высокую должность в корпорации ради мечты — открыть свою галерею современного искусства. Этот ролик — расширяющий разговор с женщиной, которая умеет мечтать громко…
👍1🦄1