Дружба по алгоритму

После презентации новой модели ChatGPT многие задались вопросом, а не слишком ли там много “личности”? Она шутит, флиртует (иногда даже чрезмерно), поддерживает разговор. Нужно ли делать машины такими “человечными”, либо безопаснее оставить их нейтральными и сдержанными? Мы хотим с ними дружить или отвести им роль помощников в рабочих процессах?

Еще рано говорить о самовозникновении личности у машин, но стоит признать, что при должной настройке чат-боты могут хорошо имитировать человеческое поведение, эмпатию и заинтересованность. В статье Кевина Руза в The New York Times поднимается занимательный аспект взаимоотношений человека и чат-ботов. Автор провел месяц общаясь в специальных приложениях с 18 виртуальными ИИ-друзьями - от психолога до адвоката. По его словам, он все еще предпочитает общение с реальными людьми, но новые собеседники сделали его жизнь приятнее - они выслушивали его проблемы, поддерживали и даже давали мудрые советы.

Спрос на общение и даже романтические отношения с чат-ботами растет быстро - это помогает многим людям справляться с одиночеством и стрессом. Недавно проведенное исследование показало, что ИИ дает людям ощущение принятия. Участники исследования ученых из USC Marshall School of Business общались с ИИ и с реальными людьми. Результат показал, что участники считали ответы ИИ более понимающими и сочувственными, чем человеческие (когда не знали, что им отвечает ИИ, но это другой разговор). Это может быть связано с тем, что ИИ не поддается эмоциональному влиянию и не дает непрошенных советов. Задача чат-бота - выслушать и проявить эмпатию.

Но где граница между помощью и зависимостью? Не станут ли люди предпочитать виртуальных друзей реальным, приобретут нереалистичное представление о взаимоотношениях и потеряют способность строить их в реальном мире? К тому же, слишком антропоморфные чат-боты могут вызвать ложное чувство дружбы или влюбленности. Но, по факту, они пока не имеют собственных чувств, мыслей или желаний, а лишь симулируют общение на основе алгоритмов и огромных массивов данных. Еще некоторые подобные приложения используют манипулятивные методы для удержания пользователей и извлечения прибыли. Например, они могут привлекать одиноких людей романтическими перспективами, а затем предлагать платные услуги по "улучшению" виртуального партнера или даже продавать сгенерированные нюдсы. Уже есть люди, которые тратят на ИИ-подружек около 10 тыс. долларов в месяц.

Вот такая интригующая сторона human-computer interaction. Безусловно, технологии имеют потенциал улучшить нашу жизнь, но создают новые риски и этические вопросы.

Вы, например, как отнеслись бы к тому, что ваш партнер общается с ИИ-девчонками/мальчишками/агендерами?)😏

#неИИединым

🐈‍⬛Как часто сбоит ваша матрица?

Наткнулась тут на подкаст с обсуждением дежавю в контексте памяти. Тема не новая, но очень манит своей загадочностью.

Дежавю (déjà vu) чаще всего связано с ощущением знакомости нового места - как будто ты тут уже был, хотя знаешь, что не был. Но этот феномен не ограничивается только пространством. Он, например, может возникать во время разговора: “кажется, я уже рассказывал эту историю”. Некоторые энтузиасты вообще выделяют 20-30 типов разных дежавю - это может быть ощущение "уже прожитого" (déjà vécu), "уже снившегося" (déjà rêvé), или “уже прочувствованного” (déjà senti).

Существует и противоположное явление - жамевю (jamais vu), когда привычные вещи, слова или лица кажутся чужими, незнакомыми. Этот феномен чаще связан с языком, например, когда слово кажется неверно написанным, несмотря на то, что мы точно знаем как его писать.

Существует мнение, что дежавю - это не ошибка памяти, а вполне здоровый механизм и скорее своеобразный "фактчек", который помогает нам лучше ориентироваться в реальности. Это как бы способ проверки памяти - точно ли я тут был или память меня обманывает? В процессе взросления/старения дежавю встречается реже, но вместо него может появиться чувство сомнения, что мы что-то уже делали или говорили. Это изменение может быть связано со снижением точности памяти или с транформирующимся взглядом на переживаемые ощущения.

Что интересно, дежавю заметно чаще встречается у людей, которые много путешествуют, то есть постоянно оказываются в новых местах. А еще у людей, которые хорошо запоминают свои сны, нередко возникает ощущение, что какая-то ситуация им уже снилась. Иногда дежавю появляется при усталости, стрессе или интоксикации. А вот у пациентов, страдающих от эпилепсии, дежавю может появляться непосредственно перед приступом и служить его индикатором. В лабораторных условиях ученые вызывали ощущение дежавю у испытуемых с использованием виртуальной реальности и игры Sims (такие научные инструменты мне нравятся💫). Почитать можно здесь.

Жамевю же связывают с временным нарушением автоматизма и диссоциацией. Оно бывает опасно - человек может резко забыть как водить автомобиль прямо во время движения. Хорошо, что обычно это состояние проходит быстро и самостоятельно. При этом ощущение жамевю вызвать у себя довольно просто - попробуйте повторить любое знакомое вам слово достаточно большое количество раз (около 30), и в какой-то момент оно начнет терять смысл, покажется странным и незнакомым. Кстати, исследование этого явления в прошлом году получило шнобелевскую премию.

Изучение активности мозга при возникновении дежавю и жамевю показывает, что эти явления ассоциированы с префронтальной корой, отвечающей за контроль (в том числе за памятью), а также с височной долей, которая задействована в обработке информации, связанной с памятью.

Исследования феноменов вроде дежавю интересы тем, что представляют собой попытку описать довольно субъективные ощущения, а это непростая задача. Дальнейшие исследования должны помочь в понимании работы нашей памяти и того, как мозг интерпретирует мир.

Рейтинг чат-ботов от The Wall Street Journal

Журнал испытал чат-ботов на различных задачах и раздал им места:

🏆Лучшим в общем зачете оказался Perplexity (даже в кодинге)

⏳Быстрее всех работает ChatGPT-4o

🖋С креативным письмом лучше справляется Copilot, а с рабочим - Claude

💰Разбираться с финансами поручаем Gemini

Copilot почти со всеми задачами справился хуже своих коллег, но зато появился в телеграме @CopilotOfficialBot, тоже есть за что похвалить👏

💡Если ответы GPT звучат слишком неестественно, попробуйте его забуллить!

Автор видео говорит, что добиться более человеческого ответа от чата можно, написав ему "That was cringe".

Основной поинт автора состоит в том, что нет смысла заморачиваться с промптами. Лучший результат мы получаем, когда ведем с чатом обычный человеческий диалог.

Согласна, что такой подход может дать хороший результат на отдельных персональных задачках. Однако обработку больших массивов в диалоге не произведешь. Придется все-таки заморочиться за качественный промпт)

📱 К каким бесплатным возможностям OpenAI открыла доступ на текущий момент:

🏃‍♂️Чат с новой скоростной моделью GPT-4o

🔧Возможность использовать кастомные GPT (но бесплатные пользователи не смогут создавать свои). Можно просто найти нужный в поиске по ключевому слову (например, мемы)

📁Загрузка и анализ файлов с OneDrive и Google Drive (всякие пдф)

📷Возможность задавать вопросы по картинкам

Единственное, у бесплатных пользователей лимит есть лимит на количество сообщений. После превышения лимита модель с GPT-4o автоматически переключается на GPT-3.5.