Очень нравится зарождение «нейронного кинематографа» – когда из текста генерируют видео кусочки, сшивают в фильм и добавляют озвучку.

Получается, что уже сейчас каждый может пойти и снять кино мечты, вот тут в треде подборка разных работ.

До больших экранов этому подходу еще много лет, но как же круто

Качество ИИ-детекторов оставляет желать лучшего: юзеры залили в zerogpt.com конституцию США. Результат — тексты основателей американской демократии на 93% генерировала нейросеть. 

Это всё, что нужно знать о фактчекинге от ИИ. 

Основные термины из области ИИ, если кто еще не знает
https://nplus1.ru/material/2023/04/20/AI-basics

В честь математика Августа Мёбиуса названа односторонняя поверхность, а в честь его внука невропатолога Пауля Мёбиуса — лицевой паралич, при котором человек не может смеяться

На днях прошли публичные слушания в Судебном комитете Сената США, на которых обсуждалась перспектива государственной реугуляции ИИ. Вот кусок диалога Сэма Альтмана с сенатором Джошом Хоули, где они обсуждают способность нейросетей предсказывать поведение пользователей и влиять на это поведение:

Сенатор Хоули: Статья, озаглавленная "Большие языковые модели (LLM), обученные на медиа-диетах, могут предсказывать общественное мнение", была опубликована примерно месяц назад. Авторы Андреас и Рой провели исследование в Массачусетском технологическом институте (MIT) и затем в Google. Вывод этой работы заключается в том, что большие языковые модели (LLM) действительно могут предсказывать общественное мнение. Авторы объясняют, почему это так, и приходят к заключению, что ИИ-система может предсказывать ответы в опросах людей, адаптируя языковую модель к медиа-диетам конкретных групп населения. Иными словами, можно скормить модели определенный набор медиа данных, и она с высокой точностью (подробности приведены в статье) сможет предсказать мнения людей.

Я хочу рассмотреть это в контексте выборов. Если эти LLM уже сейчас могут достаточно точно предсказывать общественное мнение (заранее, до того, как вы даже зададите публике эти вопросы), что произойдет, когда юридические или государственные организации, кампании или иностранные агенты получат эту информацию из опросов, эти предсказания об общественном мнении, а затем настроят механизмы для вызова определенных поведенческих реакций?

Около трех лет назад, мы слушали свидетельские показания о влиянии такой, казалось бы, обычной вещи, как поиск Google. О его влиянии на избирателей на выборах, особенно на неопределившихся избирателей в последние дни перед выборами, когда они могут искать информацию в поиске Google, и какое огромное влияние имеет ранжирование поиска Google, статьи, которые он выдает. Это имеет огромное влияние на неопределившегося избирателя.

А LLM – это, конечно, намного более мощное и значимое, гораздо более направленное воздействие. Так что, мистер Альтман, помогите понять, следует ли нам беспокоиться о моделях, которые могут предсказывать мнение по опросам, а затем помогать организациям и субъектам создавать стратегии для вызова реакций у избирателей? Следует ли нам беспокоиться об этом в отношении наших выборов?

Альтман, OpenAI: Это одно из моих главных опасений – общая способность этих моделей манипулировать, убеждать, предоставлять так сказать индивидуальную дезинформацию. Я думаю, это более широкая версия того, о чем вы говорите. Но учитывая, что в следующем году у нас состоятся выборы, а эти модели становятся все лучше, я думаю, что это серьезный повод для беспокойства.

Я считаю, что существует множество политик, которые компании могут принять добровольно, и с удовольствием расскажу о том, что мы делаем в этой области. Я действительно думаю, что эта область нуждается в разумной регуляции. Люди должны знать, что разговаривают с ИИ, или что контент перед ними, сгенерирован ИИ. Это нужно четко объяснять.

Я также считаю, что нам нужны правила относительно того, что требуется от компании, создающей модель с такими способностями, о которых вы говорите, это очень важно. Я думаю, люди способны быстро адаптироваться. Когда появился Photoshop, на некоторое время люди действительно легко обманывались фотографиями, отредактированными в Photoshop, но очень быстро разобрались, что изображения могут быть отредактированы. Это будет выглядеть так же, но как на стероидах – и взаимодействие, и возможность реалистично моделировать и точно предсказывать людей.

ПОЛИТИЧЕСКАЯ РЕЧЬ

Политическая речь и письмо в большой своей части — оправдание того, чему нет оправданий. Поэтому политический язык должен состоять по большей части из эвфемизмов, тавтологий и всяческих расплывчатостей и туманностей».

Пример: в годы президентства Джорджа Буша-младшего «гражданские потери» в Ираке стали «сопряженным ущербом.

Джордж Оруэлл, из эссе «Политика и английский язык»

https://youtu.be/DN6WKAqfGvY

Очень интересный способ провести 14 минут ))

Социолог Михаил Соколов о сходстве государственных механизмов с формами организованной преступности, последствиях появления огнестрельного оружия и противоречивой природе современной демократии

Не нейросетки, но божечки, это прекрасно

Друзья, я таки решил, что надо делать отдельный канал с клёвым, интересным, самобытным контентом. Рамки "НейроСаратов" этого не позволяют.

Поэтому я сделал "Холистический кофе". Там будут занятные факты, мемы (надо же утилизировать гигабайты интересного с компа), книги, немного популярной науки...и то что я считаю крутым и достойным внимания ))

Присоединяйтесь, будет интересно и лампово.