Интересное событие: про опасность ИИ говорят представители бигтеха. С одной стороны, понятна паника среди тех, кто не успел запрыгнуть на поезд (например, Google) и их желание выиграть себе немного времени. С другой стороны, мы действительно не можем оценить все риски использования ИИ.

Более 1100 исследователей, инженеров и предпринимателей подписали открытое письмо ИИ-лабораториям — с просьбой «минимум на полгода приостановить обучение ИИ-систем, более производительных, чем GPT-4».

Среди подписавшихся есть Илон Маск, Стив Возняк, сооснователи Skype, Pinterest и Ripple, десятки учёных из ведущих вузов мира, а также разработчики Microsoft и Google

vc.ru/future/649382

*hype mode on, извините*
Шумиха из-за "опасности ИИ" продолжает разрастаться: уже предлагают бомбить кластера. Человечество много раз проходило паранойю по поводу новых технологий: и с железной дорогой, и с электричеством, и с мобильными телефонами. Но тут все серьезнее: широкой публике сразу вспоминаются "Терминатор" с "Матрицей", вызывающие не самые приятные мысли по поводу будущего.
Я все-таки считаю, что паника преждевременна: современные языковые модели (конкретно GPT-...) все еще очень далеки от того ИИ, что реально способен представлять опасность. Наиболее вероятные проблемы из-за перемножения матриц будут вызваны не "восстанием машин", а наоборот, жесткой оптимизацией под требования владельца. На эту тему есть хорошая метафора: если потребовать от ИИ расширить бизнес по производству скрепок, то в пределе он захватит всю планету и оборудует её заводами по производству скрепок и компьютерами, помогающими ему оптимизировать процесс их производства, с печальными последствиями для человечества. Однако современные модели даже близко не похожи на ИИ, способный вести бизнес/управлять государственным ведомством, так что такие сценарии в ближайшее время мы точно не увидим. Аргументы же вроде "это лишь дело времени" можно было бы применить и для аргументации запрета производства транзисторов в 1970-х.

Нашел генератор 3D сцен из текста. Работает шустро, есть несколько стилей для генерируемых ландшафтов.

Подзалип на час разглядывая красоты.

Потестить можно тут онлайн.

Портировать вот это в VR, добавить спокойную музыку и очередное приложение для медитаций готово.

Смотрите, какая красота!
https://t.me/NeuralShit/4440

У него есть еще треки — по стилю это intelligent d'n'b с sovietwave'ом. В общем, все как я люблю, так что советую заценить: https://www.youtube.com/@DimaParhelia

Всех с днем Космонавтики 🚀 !

Понимание, которого нет | Попался грамотный разбор на тему “понимает ли ИИ”. Автор, молодой профессор психологии, задает GPT вопросы, не сложные, а именно очень простые, чтобы выявить структуру, стоящую за ответами.

“Важно отметить, что смысл всего этого не в том, что GPT совершает глупые ошибки. Мы тоже совершаем глупые ошибки! Но… картина ошибок GPT предполагает, что процесс, стоящий за ними, отличается [от нашего] по своей природе — баснословная сложность без структурной целостности”.

Он считает GPT крутыми имитаторами, но без модели мира и искр интеллекта. Не закрыл вопрос, но изложил внятные доводы. Пишет легко, корректно и содержательно.

Jaron Lanier тоже не нашел в GPT ума. В эссе в New Yorker он предлагает считать их инструментом для создания коллажей из творений человеческого разума. По его мнению, генеративный ИИ, как технология, нетривиально объединяет разные фрагменты и стили из созданного нами:

“Это значительное достижение, которое стоит отметить, но его можно рассматривать как прояснение ранее скрытых соответствий между человеческими творениями, а не как изобретение нового разума”.

См. также Terrence J. Sejnowski “Большие языковые модели и обратный тест Тьюринга” — то, что кажется интеллектом у LLM, на самом деле может быть зеркалом, отражающим интеллект интервьюера, пишет Сейновски. Он считает, что наши старые представления, основанные на естественном интеллекте, неадекватны.

Словом, пока нет даже зачатков ИИ.

Правда, все рассуждения такого рода опускают возможность, что интеллект может быть не сплошным. Если понимание у машины похоже на архипелаг, то мы будем натыкаться как на глубокие и верные ответы, так и на фиаско в очевидных ситуациях. Не поставлю денег на именно этот сценарий, но вполне допускаю, что ИИ явит некие новые формы, отличные от ЕИ человека.

Насчет ЕИ тоже вопрос, так ли мы умны по отдельности: What Makes Us Smart? Разум созревает в обществе других разумов, понимание нередко распределено между ними.

Дебаты будут длиться еще долго. Но со временем их смысл может инвертироваться: понимают ли GPT, для практики их использования будет не столь важно, зато исследование этих вещей наверняка прольет свет на то, как понимают люди.

Сооснователь DeepMind и соучредитель LinkedIn в рамках стартапа Inflection AI запустили чат-бота Pi. Говорят, что сделали акцент на дружелюбности и человечности. Работает в браузере (и даже без VPN), а еще умеет очень хорошо озвучивать свои ответы.
Попробовать можно тут: https://heypi.com/talk
(для озвучки попробуйте выбрать Pi4)

*more ai bullshit mode on*

Получил доступ к GigaChat от Сбера. Пользовался мало, но первое впечатление такое:
1) недостатки существующих моделей сохраняются — с задачками на логику беда
2) код пишет очень плохо. но хотя бы пытается
3) самое главное: он не умеет говорить "я не знаю", или "мне не хватает информации". Пример на скрине

В общем, не революция. Посмотрим, как они ее будут развивать дальше

https://www.deepmind.com/blog/an-early-warning-system-for-novel-ai-risks

У DeepMind вышла статья о необходимости оценивать опасность моделей в соавторстве с OpenAI, Anthropic и Alignment Research Center

⚡️Стартап Lightmatter, специализирующийся на фотонных вычислениях, привлек 154 миллиона долларов инвестиций для разработки фотонных чипов, предназначенных для ускорения вычислений в области искусственного интеллекта.

Чипы Lightmatter используют оптический поток для выполнения сложных математических операций, обычно выполняемых GPU и TPU. Мы приближаемся к пределам плотности и, следовательно, скорости для традиционных кремниевых транзисторов. Прогресс все еще продолжается, но стоимость развития высока и это толкает границы классической физики. Суперкомпьютеры, которые делают возможными обучающие модели вроде GPT-4, огромны, потребляют огромное количество энергии и вырабатывают много отходного тепла. Новый подход потенциально быстрее и эффективнее, сокращая энергопотребление и тепловыделение.

Компания уже запустила несколько пилотных проектов и планирует начать массовое производство в 2024 году.

https://techcrunch.com/2023/05/31/lightmatters-photonic-ai-hardware-is-ready-to-shine-with-154m-in-new-funding/?guccounter=1

the content generated by AI needs to reflect the core values of socialism and should not subvert state power
https://www.cnbc.com/2023/04/11/china-releases-rules-for-generative-ai-like-chatgpt-after-alibaba-launch.html

читатели Шерлока Холмса: лол что, Шерлок и Мориарти в конце просто дерутся на кулаках? Что за бред...
Тем временем Маск и Цукерберг:
https://vc.ru/media/735127-ilon-mask-i-mark-cukerberg-obeshchayut-provesti-boy-v-kletke-boy-veka