Anthropic запускает BugBounty для ИИ

Фокус на выявлении универсальных атак для обхода защитных механизмов.
Особое внимание уделяется критическим областям: химия, биология, радиология, ядерное и кибербезопасность.
Запускают в закрытом формате совместно с HackerOne.
Цель - протестировать новое поколение систем безопасности ИИ до их публичного запуска.
К участию приглашаются опытные исследователи и эксперты по обходу ограничений LLM.
Срок подачи заявок - 16 августа, отбор кандидатов пройдет осенью.

Здравая инициатива. Сбер когда?

#Anthropic #BugBounty #AISecuriy
-------
@tsingular

POE.com добавили генератор картинок Flux.

- FLUX.1[pro]: самая мощная
- FLUX.1[dev]: баланс качества и скорости
- FLUX.1[schnell]: скоростная

#poe #flux
———
@tsingular

Smart Connections - ИИ помощник для Obsidian

Smart Connections - новый плагин для Obsidian, использующий ИИ-эмбеддинги для анализа и связывания заметок.
Функционал включает Smart View (отображение связанных заметок) и Smart Chat (общение с базой знаний).
Поддерживает локальные модели и 100+ API, включая Claude, Gemini, ChatGPT и Llama 3.
Плагин использует технологию HyDE для поиска, позволяет исключать файлы из обработки и визуализировать связи.
Разработчики сделали упор на минимизацию зависимостей и эффективность.

Прикольный плагин для Obsidian
https://github.com/brianpetro/obsidian-smart-connections

Спасибо @alyxst за рекомендацию!

#Obsidian #SmartConnections #NoteOrganization
-------
@tsingular

Первоначально это было неподвижное изображение AI, которое стало вирусным из-за того, насколько реалистично оно выглядит, созданное с помощью Flux1.0, который обещает стать лучшим бесплатным и открытым инструментом для создания изображений.

Затем @iamneubert на x.com сказал: "Подержите мое пиво!" и оживил его с помощью модели «Image-to-Video» Runwayml GEN-3 Alpha.

Источник: iamneubert на x.com
https://lnkd.in/g_Wep9Fp

Prompt: static camera, fast natural movement, dynamic motion, fashion portrait, she smiles while she talks, blinking eyes.

#Video #Runway #Gen3
———
@tsingular

ух ты, какая красота.
количество патентов в GenAI по странам.

WIPO pdf

#china #genai #patents
———
@tsingular

Machine-Learning-Tokyo: интерактивные инструменты для ML и математики

Репозиторий Machine-Learning-Tokyo представляет обширную коллекцию интерактивных инструментов для визуализации и понимания ML, DL и математики.
Включает средства для изучения трансформеров (Transformer Explainer, exBERT, BertViz), CNN, GAN, эмбеддингов и других ключевых концепций.
Предоставляет платформы для анализа NLP моделей (LIT), исследования поведения ML систем (What-If Tool) и изучения метрик разнообразия в поиске.
Содержит визуализации для математики, вероятностей и байесовского вывода.

Теперь даже школьник сможет понять, как работает нейросеть!

#MachineLearningTokyo #InteractiveTools #DataVisualization
-------
@tsingular

Форж для Флекса.

В переводе с клингонского, обновился клиент Stable Diffusion от создателя Фокуса и теперь он поддерживает Flux.
Причем не просто поддерживает, в еще и оптимизирует память. Господин Жанг умял Флекс в новый формат NP.4, которые быстрее и точнее FP8!
Короче, это теперь можно запускать на ваших чахлых машинах.
Более того, автор перебрал Форжа по косточкам, и теперь он снова синхронизирован с А1111 1.10 и снова работает быстрее.
Багов много, например, сейчас надо запускать Фордж с выключенными диффьюзерс. Но там комиты идкт каждые полчаса.

Но наконец-то!
https://github.com/lllyasviel/stable-diffusion-webui-forge/discussions/981

@cgevent

Neo4j - GraphRAG для генеративного ИИ

Neo4j представила инструментарий GraphRAG для разработки приложений генеративного ИИ.

Ключевые компоненты:
• LLM Knowledge Graph Builder: формирует структурированный граф из неструктурированных данных.
• NeoConverse: генерирует и выполняет Cypher-запросы на основе пользовательских вопросов.
• Интеграции с LangChain, LlamaIndex, Haystack и облачными сервисами Google, AWS, Azure.

Экосистема позволяет улучшить качество ответов и прозрачность в GenAI-приложениях.

Доступны обучающие ресурсы, включая курс по графам знаний от Deeplearning AI.

Интересный готовый инструмент по построению графовых баз знаний для LLM.
Под капотом векторный кросс-поиск по связям и автогенерация cypher запросов (аналог SQL для графов)

#Neo4j #GraphRAG #KnowledgeGraphs
-------
@tsingular

SQLite получает мощное расширение для векторного поиска

sqlite-vec - новое расширение SQLite для векторного поиска, написанное на C без зависимостей.
Работает на всех платформах, включая браузеры через WebAssembly.
Использует виртуальные таблицы для хранения векторов, позволяя применять стандартные SQL-запросы.
Оптимизировано для быстрого поиска в наборах до сотен тысяч векторов.
Совместимо с расширениями sqlite-lembed и sqlite-rembed для генерации эмбеддингов.
Планируется добавление ANN-индексов для работы с большими объёмами данных.

Теперь и SQLite может в векторы.
Graph осталось добавить и будет шикарно.
Ждем sqlite-graph.

#SQLite #VectorSearch #Embeddings
-------
@tsingular

Калифорния и NVIDIA объявили о сотрудничестве в сфере ИИ

Губернатор Гэвин Ньюсом и основатель NVIDIA Дженсен Хуанг подписали соглашение о сотрудничестве в области искусственного интеллекта.
Инициатива нацелена на расширение доступа к инструментам и ресурсам ИИ для студентов, преподавателей и работников, с особым фокусом на общественные колледжи.
NVIDIA предоставит учебные программы, сертификации, оборудование и ПО, а также организует лаборатории и семинары по ИИ.
Проект призван стимулировать инновации, экономический рост и создание рабочих мест в Калифорнии.
Планируется сотрудничество с Калифорнийским университетом и привлечение других технологических компаний к подобным партнерствам.

Каждому студенту по видеокарте! :)

#California #NVIDIA #AIeducation
-------
@tsingular

На сайте ФСТЭК появился проект Требований о защите информации, не составляющей государственную тайну, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений.

В п.49 - раздел по безопасность использования искусственного интеллекта.

"Так же не допускается использование в информационных системах сильного искусственного интеллекта".
победили AGI заранее.

49.4 - про противодействие prompt-injection. неплох.
49.5 - автобан при признаках попыток взлома - тоже зачёт.
49.8 г - про направление запросов к внешним сервисам - спорно. как будто не знали куда разместить. тянет на отдельный подпункт

#ФСТЭК #закон
———
@tsingular

HybridRAG - эффективнее GraphRAR & VectorRAG в отдельности

Технология сочетает преимущества VectorRAG и GraphRAG, обеспечивая более точное извлечение информации из неструктурированных текстов.

Например, тесты на транскриптах звонков компаний Nifty 50 показало превосходство HybridRAG по достоверности (0.96) и релевантности ответов (0.96).

https://arxiv.org/abs/2408.04948

#HybridRAG #FinancialAnalysis #KnowledgeGraphs
-------
@tsingular

Тем временем в мире SQL произошло сразу две революции:

Чуваки из Electric упаковали PostgreSQL сервер (один из главных движков баз данных в мире) в js-библиотеку pglite размером 3 (!) мегабайта.

На основе pglite уже запилил лютую имбищу — браузерную базу данных, которую можно натренировать на своих csv/excel файлах. Тестим тут.

On-device or edge AI and RAG
PGlite has full support for pgvector, enabling a local or edge retrieval augmented generation (RAG) workflow.

а вот это вообще бомба, т.е. вот этот вот pglite в 3 мега, умеет еще и в векторы!
Получается не выходя из кода можно в памяти RAGи для ИИ жонглировать буквально на любой кофеварке!

sqlite-vec queries:
- 1 million 128-dimensional vectors in just 17ms
- 500,000 with 960-dimensional vectors in 41ms

sqlite-vec supports:
💾 Matryoshka embedding slicing
💡 Binary quantization reduces storage by 32x with minimal accuracy loss
🤏🏻 L2, cosine and Hamming distance calculations
🧮 Retrieval against Python List and NP Arrays
🛠 SDKs for Python, Javascript, Go, Rust, Wasm and more
🧠 local direct embedding with “sqlite-lembed” for gguf models and Llama.cpp
☁️ remote embedding with “sqlite-rembed” for OpenAI compatible APIs


#RAG #vector #pglite
———
@tsingular