Forwarded from Data Secrets
CEO Microsoft AI Мустафа Сулейман опубликовал очень необычное для CEO эссе
Называется текст "Мы должны учить ИИ для человека, а не быть человеком". В нем нет обещаний AGI, громких слов про ускорение прогресса и лекарства от всех болезней, как в эссе других глав компаний (не будем показывать пальцем).
А основная мысль вместо всего этого вот в чем: нельзя пытаться наделять ИИ признаками человека. Это создает ложное ощущение того, что это уже не машина, а что-то живое и чувствующее. Мустафа называет это SCAI — Seemingly Conscious AI, то есть AI, который кажется нам сознательным.
При этом такой SCAI либо уже частично существует, либо может появиться в ближайшие несколько лет. Ключевые характеристики: хорошее владение языком (есть), проявление эмпатии (есть), способность помнить детали прошлых диалогов (почти есть), утверждения типа "я видел/слышал/думаю/чувствую" (уже встречаются), идентичность личности и внутренняя система целей и ценностей.
Суть в том, что допустить окончательно появление SCAI нельзя. Симуляция сознания не делает ИИ реально сознательным, но общество может начать относиться к нему, как к личности, и ничем хорошим это не закончится.
Сулейман описывает целое явление "psychosis risk" (риск психоза), когда люди начинают настолько верить в иллюзию сознательности ИИ, что могут развивать эмоциональную зависимость, верить в права и чувства модели.
И таких примеров полно уже сейчас: люди влюбляются в чат-ботов, дружат с ними, начинают защищать их права и теряют связь с реальностью. Просто пока этот эффект не такой массовый – все может быть гораздо хуже.
Так что главная идея из эссе: ИИ должен существовать только как инструмент для человеческой пользы, а не как цифровая личность. От имитации чувств, стремлений или желания быть самостоятельным нужно отказаться.
ИИ должен открыто декларировать, что он не человек и не сознательное существо. В его личность должны быть встроены фичи (и Мустафа как раз призывает на законодательном уровне утвердить их перечень), которые ломают иллюзию личности – чтобы пользователи не забывали, что общаются с программой.
Вот такая вот интересная позиция – пишите в комменты, как вам
mustafa-suleyman.ai/seemingly-conscious-ai-is-coming
Называется текст "Мы должны учить ИИ для человека, а не быть человеком". В нем нет обещаний AGI, громких слов про ускорение прогресса и лекарства от всех болезней, как в эссе других глав компаний (не будем показывать пальцем).
А основная мысль вместо всего этого вот в чем: нельзя пытаться наделять ИИ признаками человека. Это создает ложное ощущение того, что это уже не машина, а что-то живое и чувствующее. Мустафа называет это SCAI — Seemingly Conscious AI, то есть AI, который кажется нам сознательным.
При этом такой SCAI либо уже частично существует, либо может появиться в ближайшие несколько лет. Ключевые характеристики: хорошее владение языком (есть), проявление эмпатии (есть), способность помнить детали прошлых диалогов (почти есть), утверждения типа "я видел/слышал/думаю/чувствую" (уже встречаются), идентичность личности и внутренняя система целей и ценностей.
Суть в том, что допустить окончательно появление SCAI нельзя. Симуляция сознания не делает ИИ реально сознательным, но общество может начать относиться к нему, как к личности, и ничем хорошим это не закончится.
Сулейман описывает целое явление "psychosis risk" (риск психоза), когда люди начинают настолько верить в иллюзию сознательности ИИ, что могут развивать эмоциональную зависимость, верить в права и чувства модели.
И таких примеров полно уже сейчас: люди влюбляются в чат-ботов, дружат с ними, начинают защищать их права и теряют связь с реальностью. Просто пока этот эффект не такой массовый – все может быть гораздо хуже.
Так что главная идея из эссе: ИИ должен существовать только как инструмент для человеческой пользы, а не как цифровая личность. От имитации чувств, стремлений или желания быть самостоятельным нужно отказаться.
ИИ должен открыто декларировать, что он не человек и не сознательное существо. В его личность должны быть встроены фичи (и Мустафа как раз призывает на законодательном уровне утвердить их перечень), которые ломают иллюзию личности – чтобы пользователи не забывали, что общаются с программой.
Вот такая вот интересная позиция – пишите в комменты, как вам
mustafa-suleyman.ai/seemingly-conscious-ai-is-coming
🔥6❤1👍1😁1
Двойственная природа ИИ: подлинные инновации среди локализованных пузырей
В мире искусственного интеллекта наблюдается парадокс: несмотря на бурное развитие технологий, многие решения остаются локализованными и не находят широкого применения. 🤔 Это создает иллюзию инноваций, тогда как реальный прогресс часто скрыт от глаз.
Однако именно в этих пузырях рождаются настоящие прорывы, способные изменить отрасли и улучшить жизнь людей. Понимание этой двойственной природы поможет избежать ловушек чрезмерного оптимизма и сосредоточиться на настоящих достижениях.
О чём нам задуматься?
Как отличить реальные прорывы от поверхностных трендов в мире ИИ? И не упустим ли мы важные технологии, которые могут изменить наше будущее?
Artificial Intelligence Archives
#новости
В мире искусственного интеллекта наблюдается парадокс: несмотря на бурное развитие технологий, многие решения остаются локализованными и не находят широкого применения. 🤔 Это создает иллюзию инноваций, тогда как реальный прогресс часто скрыт от глаз.
Однако именно в этих пузырях рождаются настоящие прорывы, способные изменить отрасли и улучшить жизнь людей. Понимание этой двойственной природы поможет избежать ловушек чрезмерного оптимизма и сосредоточиться на настоящих достижениях.
О чём нам задуматься?
Как отличить реальные прорывы от поверхностных трендов в мире ИИ? И не упустим ли мы важные технологии, которые могут изменить наше будущее?
Artificial Intelligence Archives
#новости
Anthropic представила AI-агента Claude, который обитает в Chrome
Новый AI-агент от Anthropic, Claude, теперь доступен прямо в браузере Chrome. Этот инструмент обещает стать незаменимым помощником, предлагая интеллектуальные решения на лету.
Claude способен анализировать информацию, генерировать тексты и отвечать на вопросы, значительно упрощая взаимодействие пользователей с интернетом. Такой шаг открывает новые горизонты в сфере персонализированного контента и повышения эффективности работы.
Techcrunch
#новости
Новый AI-агент от Anthropic, Claude, теперь доступен прямо в браузере Chrome. Этот инструмент обещает стать незаменимым помощником, предлагая интеллектуальные решения на лету.
Claude способен анализировать информацию, генерировать тексты и отвечать на вопросы, значительно упрощая взаимодействие пользователей с интернетом. Такой шаг открывает новые горизонты в сфере персонализированного контента и повышения эффективности работы.
Techcrunch
#новости
Meta инвестирует десятки миллионов в политическое лобби.
Компания Meta готовится выделить десятки миллионов долларов на поддержку политической группы, выступающей за искусственный интеллект. Этот шаг подчеркивает растущую значимость технологий в политической сфере и стремление влиять на будущее регулирования AI.
Такое финансирование может существенно изменить баланс сил в политических дискуссиях о будущем технологий и их воздействии на общество и этических дилеммах. 💡
Techcrunch
#новости
Компания Meta готовится выделить десятки миллионов долларов на поддержку политической группы, выступающей за искусственный интеллект. Этот шаг подчеркивает растущую значимость технологий в политической сфере и стремление влиять на будущее регулирования AI.
Такое финансирование может существенно изменить баланс сил в политических дискуссиях о будущем технологий и их воздействии на общество и этических дилеммах. 💡
Techcrunch
#новости
❤2
Google Переводчик против Duolingo: новые инструменты для изучения языков
В мире языкового обучения нарастает конкуренция: Google Переводчик представил новые функции, которые могут изменить правила игры. 🌍 С обновлениями, позволяющими пользователям не только переводить, но и изучать языки, сервис бросает вызов популярному Duolingo.
Теперь пользователи смогут погружаться в изучение языка через интерактивные упражнения и адаптивные задания, что делает процесс более увлекательным и эффективным.
Techcrunch
#новости
В мире языкового обучения нарастает конкуренция: Google Переводчик представил новые функции, которые могут изменить правила игры. 🌍 С обновлениями, позволяющими пользователям не только переводить, но и изучать языки, сервис бросает вызов популярному Duolingo.
Теперь пользователи смогут погружаться в изучение языка через интерактивные упражнения и адаптивные задания, что делает процесс более увлекательным и эффективным.
Techcrunch
#новости
❤🔥2
Google Vids: новые AI-аватары и инструменты для создания видео
Google Vids представил обновления, которые могут изменить подход к созданию контента. Теперь пользователи могут использовать AI-аватары для оживления своих видео, а также преобразовывать изображения в динамичные видеоролики. 🎥
Эти технологии обещают упростить создание мультимедийного контента и сделать его доступнее для широкой аудитории, что может повлиять на рынок видеопроизводства и социальных медиа.
О чём нам задуматься?
Как новые инструменты изменят творческий процесс? Станет ли это шагом к более демократизации контента или появится опасность злоупотреблений?
Artificial Intelligence Archives
#новости
Google Vids представил обновления, которые могут изменить подход к созданию контента. Теперь пользователи могут использовать AI-аватары для оживления своих видео, а также преобразовывать изображения в динамичные видеоролики. 🎥
Эти технологии обещают упростить создание мультимедийного контента и сделать его доступнее для широкой аудитории, что может повлиять на рынок видеопроизводства и социальных медиа.
О чём нам задуматься?
Как новые инструменты изменят творческий процесс? Станет ли это шагом к более демократизации контента или появится опасность злоупотреблений?
Artificial Intelligence Archives
#новости
Децентрализованный ИИ: многообещающий, но не без трудностей
Децентрализованный искусственный интеллект обещает революционизировать подходы к данным, обеспечивая большую прозрачность и контроль для пользователей. Однако, несмотря на свои преимущества, такие системы сталкиваются с серьезными вызовами, включая вопросы безопасности и согласованности данных.
Эти проблемы могут затормозить внедрение децентрализованных технологий, но их потенциал для создания более справедливых и независимых платформ все еще остается важным. 🌐
О чём нам задуматься?
Каково будущее децентрализованных технологий в условиях растущих угроз кибербезопасности? Насколько готовы мы принимать риски ради большей свободы и прозрачности в мире ИИ?
Artificial Intelligence Archives
#новости
Децентрализованный искусственный интеллект обещает революционизировать подходы к данным, обеспечивая большую прозрачность и контроль для пользователей. Однако, несмотря на свои преимущества, такие системы сталкиваются с серьезными вызовами, включая вопросы безопасности и согласованности данных.
Эти проблемы могут затормозить внедрение децентрализованных технологий, но их потенциал для создания более справедливых и независимых платформ все еще остается важным. 🌐
О чём нам задуматься?
Каково будущее децентрализованных технологий в условиях растущих угроз кибербезопасности? Насколько готовы мы принимать риски ради большей свободы и прозрачности в мире ИИ?
Artificial Intelligence Archives
#новости
Будущее робототехники: дискуссия учёных MIT 🤖
В Массачусетском технологическом институте прошла жаркая дискуссия среди ведущих учёных-робототехников о том, как будут развиваться технологии в этой области. Эксперты обсуждали, как роботы могут изменить нашу жизнь и какие моральные и этические вопросы это поднимает.
Эти размышления могут повлиять на дальнейшие исследования и разработки, а также на то, как мы воспринимаем взаимодействие между человеком и машиной.
О чём нам задуматься?
Какие границы следует установить при внедрении роботов в повседневную жизнь? Как обеспечить безопасность и этичность таких технологий?
MIT CSAIL
#новости #аналитика
В Массачусетском технологическом институте прошла жаркая дискуссия среди ведущих учёных-робототехников о том, как будут развиваться технологии в этой области. Эксперты обсуждали, как роботы могут изменить нашу жизнь и какие моральные и этические вопросы это поднимает.
Эти размышления могут повлиять на дальнейшие исследования и разработки, а также на то, как мы воспринимаем взаимодействие между человеком и машиной.
О чём нам задуматься?
Какие границы следует установить при внедрении роботов в повседневную жизнь? Как обеспечить безопасность и этичность таких технологий?
MIT CSAIL
#новости #аналитика
Google представил Nano-Banana — новый инструмент для редактирования изображений
Google анонсировал запуск Nano-Banana, прорывной модели редактирования изображений, которая обещает упростить процесс создания и обработки графики. Этот инструмент, основанный на передовых алгоритмах ИИ, позволяет пользователям легко вносить изменения в изображения с минимальными усилиями.
С помощью Nano-Banana Google стремится сделать редактирование изображения доступным для всех, от профессиональных дизайнеров до обычных пользователей. Это может значительно повлиять на креативные индустрии и изменить подход к визуальному контенту. 📸
Medium
#новости
Google анонсировал запуск Nano-Banana, прорывной модели редактирования изображений, которая обещает упростить процесс создания и обработки графики. Этот инструмент, основанный на передовых алгоритмах ИИ, позволяет пользователям легко вносить изменения в изображения с минимальными усилиями.
С помощью Nano-Banana Google стремится сделать редактирование изображения доступным для всех, от профессиональных дизайнеров до обычных пользователей. Это может значительно повлиять на креативные индустрии и изменить подход к визуальному контенту. 📸
Medium
#новости
❤1🔥1
#мудрость #философ
Но! Сегодня у нас ChatGPT посадил Платона и Лао-цзы вместе, побеседовать на тему: «Существует ли свободная воля?» Смотрим что получилось, полный лог беседы
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4👏1
Maisa AI получает $25 миллионов для преодоления 95% неудач в корпоративном ИИ
Проблема неудач в корпоративных проектах по внедрению искусственного интеллекта становится все более актуальной. Стартап Maisa AI привлек $25 миллионов инвестиций, чтобы изменить этот печальный тренд.
Среди компаний, использующих ИИ, 95% не добиваются успеха. Maisa планирует предложить решения, которые не только упростят интеграцию, но и помогут избежать распространенных ошибок. Это может стать настоящим прорывом в мире технологий.
И вот в это я не верю!
Не возможно создать универсальные решения, да может ребятам удастся создать решения для каждой отрасли, которые чуть облегчат на старте внедрение, но вот в маркетинг универсальной «волшебной палочки» я не верю.
Techcrunch
#новости
Проблема неудач в корпоративных проектах по внедрению искусственного интеллекта становится все более актуальной. Стартап Maisa AI привлек $25 миллионов инвестиций, чтобы изменить этот печальный тренд.
Среди компаний, использующих ИИ, 95% не добиваются успеха. Maisa планирует предложить решения, которые не только упростят интеграцию, но и помогут избежать распространенных ошибок. Это может стать настоящим прорывом в мире технологий.
И вот в это я не верю!
Не возможно создать универсальные решения, да может ребятам удастся создать решения для каждой отрасли, которые чуть облегчат на старте внедрение, но вот в маркетинг универсальной «волшебной палочки» я не верю.
Techcrunch
#новости
💯1
Forwarded from Сиолошная
Специалисты антивируса ESET обнаружили первый компьютерный вирус на основе... LLM. Вирус незаметно скачивает GPT-OSS-20B модель (14 гигабайт) и запускает её через Ollama API для того, чтобы агент на основе модели лазил по локальным файлам и принимал решения на лету.
В вирус захардкожено несколько промптов, которые:
— просят сгенерировать код на LUA, который обходит файлы в разных папках и печатает их контент
— определяют, есть ли в файлах чувствительная информация
— генерируют персонализированное сообщение для пользователя о том, как именно будет использоваться его контент (удаление/шифрование/публикация). В этот текст также добавляется биткоин-кошелек для перевода, правда это похоже на заглушку: адрес принадлежит создателю Bitcoin Satoshi Nakamoto
— генерируют код для шифрования файлов (правда я не понял, почему это нельзя было захардкодить — может потому что такой код легко обнаруживается антивирусами?)
В общем, скорее всего это прототип или разработка, а не полностью работоспособный вирус, развёрнутый в реальных условиях, но вот такой вот прецедент. Ещё 2-3 поколения локальных моделек, которые станут и умнее, и меньше — и сё!
Вирус назвали PromptLock👀
В вирус захардкожено несколько промптов, которые:
— просят сгенерировать код на LUA, который обходит файлы в разных папках и печатает их контент
— определяют, есть ли в файлах чувствительная информация
— генерируют персонализированное сообщение для пользователя о том, как именно будет использоваться его контент (удаление/шифрование/публикация). В этот текст также добавляется биткоин-кошелек для перевода, правда это похоже на заглушку: адрес принадлежит создателю Bitcoin Satoshi Nakamoto
— генерируют код для шифрования файлов (правда я не понял, почему это нельзя было захардкодить — может потому что такой код легко обнаруживается антивирусами?)
В общем, скорее всего это прототип или разработка, а не полностью работоспособный вирус, развёрнутый в реальных условиях, но вот такой вот прецедент. Ещё 2-3 поколения локальных моделек, которые станут и умнее, и меньше — и сё!
Вирус назвали PromptLock
Please open Telegram to view this post
VIEW IN TELEGRAM
Plaud представила новый AI-устройство для заметок — Note Pro за $179
Plaud анонсировала свой новый гаджет — Note Pro, который обещает стать незаменимым помощником для студентов и профессионалов. Это устройство использует искусственный интеллект для упрощения процесса записи и организации заметок, позволяя пользователям сосредоточиться на главном.
С Note Pro можно не только делать заметки, но и быстро находить нужную информацию с помощью голосовых команд, что значительно повышает продуктивность.
Как пользователь Plaud pin подтверждаю, работает, удобно, делает отличные транскрипты в разных вариантах от лекции до протокола совещания с кто, что говорил, задачами и ответственными.
Techcrunch
#новости
Plaud анонсировала свой новый гаджет — Note Pro, который обещает стать незаменимым помощником для студентов и профессионалов. Это устройство использует искусственный интеллект для упрощения процесса записи и организации заметок, позволяя пользователям сосредоточиться на главном.
С Note Pro можно не только делать заметки, но и быстро находить нужную информацию с помощью голосовых команд, что значительно повышает продуктивность.
Как пользователь Plaud pin подтверждаю, работает, удобно, делает отличные транскрипты в разных вариантах от лекции до протокола совещания с кто, что говорил, задачами и ответственными.
Techcrunch
#новости
Forwarded from EFEMERA: AI news (Вова Казаков)
Исследование Anthropic: как преподаватели используют Claude
✦ Преподаватели экономят в среднем 5,9 часов в неделю
✦ 57% запросов от преподавателей связаны с разработкой учебных программ
✦ Преподаватели создают интерактивные симуляции и игры через Claude Artifacts
✦ 7% запросов относятся к оценке успеваемости студентов
✦ 13% обращений касаются академических исследований
✦ Автоматизация чаще применяется в финансах и ведении записей
✦ ИИ реже используют для преподавания, больше для автоматизации и подготовки материалов
✦ Отчёт основан на анализе ~74 000 анонимных диалогов с Claude и опросе 22 преподавателей из Northeastern University
⟡ Подробнее в статье
⟡ Ранее ещё был отчет: как студенты используют Claude
EFEMERA
✦ Преподаватели экономят в среднем 5,9 часов в неделю
✦ 57% запросов от преподавателей связаны с разработкой учебных программ
✦ Преподаватели создают интерактивные симуляции и игры через Claude Artifacts
✦ 7% запросов относятся к оценке успеваемости студентов
✦ 13% обращений касаются академических исследований
✦ Автоматизация чаще применяется в финансах и ведении записей
✦ ИИ реже используют для преподавания, больше для автоматизации и подготовки материалов
✦ Отчёт основан на анализе ~74 000 анонимных диалогов с Claude и опросе 22 преподавателей из Northeastern University
⟡ Подробнее в статье
⟡ Ранее ещё был отчет: как студенты используют Claude
EFEMERA
❤4👍2