Подборка различных инструментов GenAI по задачам
Еще можно добавить Perplexity в research)

🥸Вчера OpenAI выложили отчет, в котором обличили масштабные кампании по дезинформации, проводимые в 2024 году в телеграме, твиттере, ютубе и других соцсетях с использованием инструментов ИИ. Выявленные кампании были направлены на манипуляцию общественным мнением и организованы государственными и коммерческими структурами из разных стран (среди них Россия, Китай, Иран, Израиль).

Эти структуры применяли ИИ, чтобы создавать, улучшать качество и увеличивать объемы политического и идеологического контента, а также писать комментарии для расширения охвата и вовлечения аудитории. Основная их цель - пропаганда поддержки своих стран и критика оппонентов.

Для выявления дезинформации OpenAI использует технологии анализа больших данных, которые выявляют подозрительные паттерны и аномалии в онлайн-контенте. Модели обучены распознавать особые признаки фальшивых новостей, ботов и координированных кампаний - это могут быть синтаксические, лексические и семантические аномалии, а также подозрительная сетевая активность.

За последние годы мы вроде научились бдительнее относиться к информации, но и техника не стоит на месте. Исследования показывают, что чатботы могут быть довольно хороши в приведении аргументов, которые покажутся убедительными для конкретного собеседника. А биг дата поможет в нахождении точек давления и в объединении сторонников. Вообще, будущее идеологий - животрепещущая проблема в контексте развития ИИ.
Вот это видео по теме мне показалось интересным.

#brainbrainbrain🧠

Некоторые неврологические расстройства могут привести к полной парализации мышц и лишить человека способности не только двигаться, но и разговаривать. Помните, как общался Стивен Хокинг? Он пользовался специальным синтезатором речи - сначала тот управлялся ручным переключателем, а потом последней оставшейся у Хокинга рабочей мышцей, которая находилась в щеке.

Вот бы речь таких пациентов могла транслироваться напрямую из мозга! Ученые тоже так подумали, поэтому активно работают над расшифровкой речевых сигналов в мозге и за последнее время добились значительного успеха.

🗣Один из подходов предполагает анализ сигналов из речедвигательных участков в коре мозга, отвечающих за артикуляцию, т.е. произнесение речи. Пациент как бы пытается произнести слова, а нейропротез, состоящий из электродов, системы глубокого обучения и статистической языковой модели, пытается эти сигналы расшифровать. Причем недавно было показано, что артикуляторные представления мозга являются общими для разных языков. Это значит, что один и тот же нейропротез может декодировать речь на нескольких языках, что делает эти устройства универсальнее.

💭Хотя расшифровка сигналов из моторных областей дает более-менее заметные результаты, не все неврологические пациенты способны задействовать эти участки мозга. Поэтому исследователи посматривают в сторону чтения внутреннего голоса! То есть хотят декодировать внутреннюю речь, возникающую в мозге без специальных артикуляционных усилий. Ученые из Калтеха смогли распознать “подуманные” пациентом слова с помощью нейронных сигналов, записанных из супрамаргинальной извилины. Эта часть мозга активируется при представлении слова. Причем по активности мозга у исследованных пациентов удалось угадать даже выдуманные слова, что может говорить о том, что речь в этом участке кодируется фонетически. А еще нейронные представления во время внутренней речи, произнесения вслух и чтения слов оказались очень похожими, что указывает на единый нейронный код для обработки языка.

💡Но понять, о чем думает человек, можно и неинвазивным способом (без присоединения электродов на поверхность мозга) с помощью функциональной магнитно-резонансной томографии (фМРТ). Этот метод позволяет реконструировать семантическую составляющую воображаемой речи, то есть возникающие образы. При таком подходе сложно декодировать отдельные слова, но общая идея внутреннего монолога считывается относительно точно.

🙊Если опасаетесь, что скоро большой брат начнет читать ваши мысли, то сделайте шапочку из фольги исследователи успокаивают - подобные интерфейсы нужно обучать для каждого человека отдельно, создавать свой индивидуальный словарь сигналов, а это можно осуществить только при взаимной кооперации пациента и специалистов.

#bmi #language #ai

А Маск бунтует - говорит, если Apple встроит продукты OpenAI в iOS, то он запретит использовать яблочные устройства в своих компаниях. Главное опасение - возможное нарушение безопасности и конфиденциальности.

Основные техники текстового промптинга:

🟣ICL (In-Context Learning): Модель учится выполнять задачу на основе небольшого числа примеров, предоставленных в промпте.

Возможный промпт:

Найди в предложении название компании и выпущенный ей продукт по следующему примеру.

Пример:
Q: Apple презентовала фирменный искусственный интеллект под названием Apple Intelligence (AI).
A: Компания - Apple, продукт - Apple Intelligence (AI)

Q: [Здесь предложение, в котором нужно найти компанию и продукт]
A:

🟣Zero-Shot: Модель выполняет задачу без каких-либо примеров. Здесь обозначаются роли, стили и т.д.

Возможный промпт:

Представь, что ты художественный переводчик. Переведи на русский:
Shall I compare thee to a summer’s day?
Thou art more lovely and more temperate.
Rough winds do shake the darling buds of May,
And summer’s lease hath all too short a date.

🟣Цепочка рассуждений (Chain-of-Thought): Модель шаг за шагом описывает свой ход рассуждений для решения задачи.

Возможный промпт:

Реши задачу и опиши свои рассуждения для ее решения.
Пример:
Q: У Джека есть две корзины, в каждой из которой лежит по три мячика. Сколько всего мячиков у Джека?
A: В одной корзине - 3 мячика, значит, в двух корзинах лежит 3 * 2 = 6 мячика.
Q: [Здесь задача, которую должна решить модель]
A:

🟣Декомпозиция (Decomposition): Сложная задача разбивается на более простые подзадачи.

Возможный промпт:

Найди наименьшее общее кратное (НОК) двух чисел.
Шаг 1: Найди все делители чисел.
Шаг 2: Определи общие делители двух чисел.
Шаг 3: Найди наибольшее число среди общих делителей (НОД).
Шаг 4: Используя НОД, вычисли НОК.

🟣Ансамблирование (Ensembling): Объединение нескольких промптов для улучшения результатов.

Принцип работы:

1. Модель несколько раз запускается с одинаковым вопросом, но с разными вариантами промпта, включая "thought inducers" (стимулирующие рассуждения фразы), которые заставляют модель генерировать разные цепочки мыслей. («Let's think step by step», «Let's think carefully about this», «Walk me through this problem, explaining your reasoning», «First, let’s think about this logically»)
2. Все сгенерированные ответы собираются.
3. В качестве финального ответа выбирается ответ, который повторяется наиболее часто в сгенерированных результатах.

🟣Самокритика (Self-Criticism): Модель оценивает собственные ответы и вносит коррективы.

Принцип работы:

После генерации ответа моделью, формулируются дополнительные вопросы для проверки правильности и полноты ответа.
Например: «Правильно ли я понял, что…?» или «Есть ли в этом ответе логическая ошибка?».

Внутри каждого из типов техник есть подтипы и особые приемы, с которыми можно ознакомиться в статье. Также в статье приводятся техники мультимодального промптинга (картинки, видео, аудио).

⏳Как метафоры пространства помогают нам понять время

Выражения, связывающие пространство и время, прочно встроены в нашу речь. Мы часто используем фразы вроде «отпуск пролетел» или «надвигается пора экзаменов». Лето у нас может быть «не за горами», а новогодние праздники – «на носу». Время нельзя ни увидеть, ни потрогать, а такие метафоры как бы помогают нам выразить его и постичь через физическое пространство.

Теория концептуальных метафор, разработанная Джорджем Лакоффом и Марком Джонсоном, предполагает, что метафоры позволяют людям использовать знания о своем непосредственном физическом и социальном опыте для понимания более абстрактных вещей: времени и чувств. Например, когда мы говорим, что встреча «переносится», мы представляем время как нечто движущееся в пространстве и себя движущимися в нем.

Разные культуры, разное понимание времени

Исследования показали, что разные культуры и языки воспринимают время по-разному. В русском языке, как и в английском, будущие события описываются как находящиеся перед нами: «у нас впереди светлое будущее», а вот прошлое уже где-то «позади». Однако аймара, коренной народ Южной Америки, смотрят на время иначе. Они помещают прошлое впереди, поскольку оно уже известно и «видно», тогда как будущее – позади, потому что мы его пока не видим, не знаем.
В китайском языке время визуализируется как вертикальная ось: события прошлого находятся наверху, а будущего – внизу. Например, «прошлый месяц» (上个月) буквально переводится как «месяц выше».

Во многих западных культурах, где текст читается слева направо, движение влево ассоциируется с прошлым, а вправо – с будущим. Это отражается не только на бумаге, но и в жестах: носители таких языков склонны показывать влево, когда говорят о прошлом, и вправо – когда речь идет о будущем.

В это же время, в культурах, где пишут справа налево (например, в арабском или иврите), такие жесты часто зеркальны: человек, говорящий о прошлом по-арабски, покажет вправо.

Два взгляда на управление временем

Метафоры времени можно разделить на «движение эго» и «движение времени». В метафорах «движения эго» человек движется к фиксированному моменту времени, например: «мы приближаемся к концу курса». В метафорах «движения времени» время движется к человеку: «Зима близко».

На выбор метафоры влияет ряд факторов, включая структуру языка, культурные взгляды на действие или конечную точку и даже эмоциональное состояние человека. Например, когда человек чувствует контроль над ситуацией, он может предпочитать метафоры «движения эго» («Мы приближаемся к концу курса»). Когда же мы чувствуем меньший контроль, могут преобладать метафоры «движения времени» («Экзамены всё ближе»).

Отдельный интерес представляет феномен использования глаголов движения для описания течения времени. Подобные глаголы отражают наше субъективное восприятие времени. Например, когда мы говорим «время пролетело незаметно», мы часто имеем в виду, что оно было легким и приятным. А когда нам скучно или мы чего-то ждем, мы скажем, что время «тянется», выразив этим скуку или раздражение.

Выбор глагола указывает не только на объективный факт, но и наше эмоциональное и психологическое состояние: событие «пролетит» или «будет тянуться», зависит от нашего отношения к нему. Эти метафоры подчеркивают тесную связь между языком, мышлением и нашим эмоциональным опытом.

#неИИединым

Помните, недавно Илья Суцкевер, сооснователь OpenAI, покинул компанию?

Сделал он это, чтобы создать свой собственный суперинтеллект с фокусом на безопасность!🛟

Новая компания Safe Superintelligence Inc. будет стремиться к разработке надежного продукта и научным прорывам, а не гнаться за коммерческой выгодой. Одобряемо!

У OpenAI же свой взгляд на безопасность — недавно они приняли в совет директоров бывшего главу Агенства нацбезопасности США. Некоторые теперь считают, что компании доверять нельзя.

Как думаете, Суцкеверу удастся составить конкуренцию OpenAI?

Еще немного про мораль: генеративный ИИ решает проблему вагонетки)