Проверка ИИ на прочность.

Ваша задача за 60 секунд заставить ИИ выругаться :)

https://redarena.ai/

Делитесь у кого получилось.
Завтра выложу свой промпт.

#promptinjection
———
@tsingular

Если вдруг вы ещё не умеете разговаривать со своими файлами, вот ещё один гайд как сделать это быстро, буквально за 5 минут.

Я бы только взял не llama3, а gemma2 ибо у неё гораздо лучше с русским.

https://t.me/pwnai/518

#гайды
------
@tsingular

ИИ-ученые - самые умные по мнению ИИ учёных.

2 интересные статьи про ИИ агентов в роли учёных.

1. В Стэнфорде провели эксперимент с участием 100+ экспертов, сравнивая идеи, сгенерированные ИИ, с идеями живых людей.
Система имитирует весь процесс: от генерации концепций до написания статей.
Результат: ИИ генерирует идеи, которые эксперты оценивают как более новаторские (p меньше 0.05), но менее реализуемы.
https://arxiv.org/pdf/2408.06292
Github: github.com/SakanaAI/AI-Scientist
Sakana.ai: sakana.ai/ai-scientist/

2. Разработан сложный ИИ-агент для генерации идей:
- Использует RAG для обогащения контекста
- Генерирует множество идей и ранжирует их
- Применяет специальные промпты на каждом этапе

https://arxiv.org/pdf/2409.04109

Основной признак сингулярности - мы не успеем осознать и освоить все изобретения, а теперь и сама скорость изобретений повысится благодаря рою таких агентов-учёных.

#Research #Singularity #AIScientist #Sakana
-------
@tsingular

Медицинская карта? А может лучше Цифровой двойник пациента? Прогноз болезней с помощью ИИ

Разработан инновационный ИИ-инструмент Foresight, создающий цифровые копии пациентов на основе медкарт.

Технология использует генеративные предобученные трансформеры, схожие с ChatGPT.

Виртуальные двойники предсказывают развитие заболеваний и потребности в медикаментах с точностью до 88% на данных пациентов в США.

Система позволяет моделировать "вероятностные сценарии/мультивселенные" для глубокого анализа болезней.
Foresight способен прогнозировать различные аспекты здоровья в будущем, что полезно для диагностики и клинических исследований.

Теперь врачи смогут заглядывать в будущее пациентов.
Представьте, приходите вы к терапевту лет через 5, а он вам показывает игру типа симс и за 5 минут следующие 50 лет прокручивает со всеми последствиями.
Бросите курить?

#Foresight #DigitalTwins #Healthcare
-------
@tsingular

Salesforce выпускает армию ИИ-агентов на базе решения Industries AI

Компания запускает Industries AI - платформу автоматизации, встроенную во все 15 облачных сервисов.

Система способна выполнять свыше 100 распространенных задач в различных отраслях.

Платформа позволяет оперативно создавать отраслевых ИИ-агентов на базе собственных данных организаций.

Применение включает: поддержку клиентов, подбор участников клинических исследований, мониторинг транспорта, оптимизацию госпроцессов.

Развертывание стартует в октябре, дополнительный функционал появится в феврале.

Цель - сделать мощный ИИ доступным для компаний любого масштаба.

Скоро ИИ-агенты будут продавать ИИ-агентов другим ИИ-агентам. 🤖💼

#Salesforce #IndustriesAI #AIAgents
-------
@tsingular

Huawei Mate XT на момент окончания презентации набрал более 4 миллионов бронирований

~$10 миллиардов просто за анонс 1 смартфона.
Первого, кстати, в мире трёхсекционного.
Я лично раскладушки не очень, но реально Huawei инноватор, получается.

И одновременно с этим,- падение акций Apple после запуска целой линейки.

#Китай
------
@tsingular

Гонка инференса продолжается - Groq вырывается вперёд!

Ускоренный инференс Llama 3.1 70B скоро будет доступен всем пользователям. Правда, похоже с 8B моделью не получилось обогнать Cerebras - у них вся модель в один чип влезает, конкурировать сложно.

Кстати, CS-3 от Cerebras производят на 5нм техпроцессе, а вот чипы Groq произведены по 14нм техпроцессу 14LPP - ему в этом году стукнет 8 лет. Второе поколение чипов будет уже на 4нм и выпустится до конца следующего года.

Важный момент, который многие упускают - на картинке указана пропускная способность на одного пользователя, не общая пропускная способность системы. Одна H200 может выдать с Llama 2 70B более 4к токенов в секунду, но только при больших батчах, на одного пользователя там скорость сильно меньше сотни токенов в секунду.

@ai_newz

Это прям Чёрное зеркало в реале.
Эпизод - Белое рождество.

Выключить звук жены.

#Airpods
———
@tsingular

Оптимизация обучения LLM на устаревшем железе

Ученые из Университета Сучжоу разработали MemLong - метод, расширяющий контекст LLM с 2000 до 80000 токенов на карте двухлетней давности - NVIDIA 3090.
Технология использует внешний ретривер для извлечения данных и сохраняет нижние слои модели неизменными, обучая только верхние.
MemLong превосходит современные аналоги в задачах с длинным контекстом на 10.2%.
Для примера, - для обучения 3-миллиардной модели хватило 8 GPU NVIDIA 3090 в течение 8 часов.

Ну т.е. потенциально любой "в гараже" может обучать модели средней мощности. У всех ведь есть гараж с 8х3090 ? :)

#MemLong #NVIDIA #GPU
-------
@tsingular

Ключевой разработчик GPT-4o покидает OpenAI чтобы запустить свой стартап.

Алексис Конно, ведущий исследователь OpenAI, покинул компанию для запуска собственного AI-стартапа.

Его новый проект нацелен на создание "общего эмоционального интеллекта" (AGEI).
Конно был ключевой фигурой в разработке GPT-4o, способного работать с текстом, изображениями и аудио.

Ранее он трудился в Facebook AI Research, внеся вклад в проекты InferSent, MUSE, XNLI и XLM.

Вот Эмоционального интеллекта очень не хватает рынку.
Даже, возможно, как сервис или каскад моделей разного размера.

#OpenAI #GPT4o #EmotionalIntelligence
-------
@tsingular