Google и другие исследователи создали виртуальную симуляцию клиники DiagGym, где ИИ с помощью обучения с подкреплением учится не просто ставить диагноз, но и стратегически планировать процесс обследования: выбирать необходимые тесты, минимизируя время и затраты. Это важный шаг в развитии медицинского ИИ, направленный на развитие его стратегического мышления.
👉 DataFrog | #datascience
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Функция для фиксации случайных начальных значений (seed) во всех основных библиотеках, которые используются в машинном обучении
Максимально "грязное" решение для достижения детерминированных результатов при обучении моделек. Функция ставит начальные сиды у всех генераторов и задаёт детерминированное поведение бекэнда. В большинстве случаев все строчки не нужны, достаточно только:
Более серьёзное решение, например для RL алгоритмов, это использование механизма torch.Generator() или jax.random.PRNGKey() для создания детерминированной псевдо-случайности в приложениях со многими потоками.
Pytorch: https://pytorch.org/docs/stable/generated/torch.Generator.html
Jax: https://jax.readthedocs.io/en/latest/jax.random.html
👉 DataFrog | #datascience #pytorch #code
import os
import random
import numpy as np
import torch
def seed_all(seed: int = 42):
os.environ["PYTHONHASHSEED"] = str(seed)
random.seed(seed)
np.random.seed(seed)
torch.manual_seed(seed)
torch.cuda.manual_seed_all(seed)
torch.backends.cudnn.deterministic = True
torch.backends.cudnn.benchmark = False
torch.use_deterministic_algorithms(True)
torch.multiprocessing.set_start_method("fork", force=True)
Максимально "грязное" решение для достижения детерминированных результатов при обучении моделек. Функция ставит начальные сиды у всех генераторов и задаёт детерминированное поведение бекэнда. В большинстве случаев все строчки не нужны, достаточно только:
random.seed(seed)
np.random.seed(seed)
torch.manual_seed(seed)
torch.cuda.manual_seed_all(seed)
Более серьёзное решение, например для RL алгоритмов, это использование механизма torch.Generator() или jax.random.PRNGKey() для создания детерминированной псевдо-случайности в приложениях со многими потоками.
Pytorch: https://pytorch.org/docs/stable/generated/torch.Generator.html
Jax: https://jax.readthedocs.io/en/latest/jax.random.html
Please open Telegram to view this post
VIEW IN TELEGRAM
❤4
Безопасность LLM и агентских систем (GenAI OWASP)
Если вы работаете над дизайном агентов или систем с использованием LLM, рекомендую обратить внимание на ресурс GenAI OWASP.
Там собрана отличная база знаний по ключевым угрозам для AgenticAI-систем: описываются основные уязвимости, векторы атак и методы защиты. Материалы поданы очень сжато и по делу, читаются быстро.
Например, в последних обновлениях появились важные предупреждения о рисках использования сторонних MCP-серверов.
👉 DataFrog | #datascience
Если вы работаете над дизайном агентов или систем с использованием LLM, рекомендую обратить внимание на ресурс GenAI OWASP.
Там собрана отличная база знаний по ключевым угрозам для AgenticAI-систем: описываются основные уязвимости, векторы атак и методы защиты. Материалы поданы очень сжато и по делу, читаются быстро.
Например, в последних обновлениях появились важные предупреждения о рисках использования сторонних MCP-серверов.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1🔥1
Please open Telegram to view this post
VIEW IN TELEGRAM
Исследователи выяснили, что пользователи образовательных платформ учатся стратегически "обманывать" алгоритмы, предугадывая их обновления. Когда люди действуют сообща, они могут целенаправленно влиять на систему в свою пользу.
👉 DataFrog | #datascience
Please open Telegram to view this post
VIEW IN TELEGRAM
Ученые представили EGGROLL (Evolution Guided General Optimization via Low-rank Learning) — новый алгоритм для обучения огромных нейросетей без обратного распространения ошибки. Метод использует хитрые математические приемы, чтобы сделать эволюционные стратегии быстрыми и экономичными даже для моделей с миллиардами параметров. EGGROLL не уступает по качеству существующим методам, но требует значительно меньше памяти и вычислений.
👉 DataFrog | #datascience
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
This media is not supported in your browser
VIEW IN TELEGRAM
Не хотите подключать целый ML-трекер только чтобы давать экспериментам понятные имена вроде eternal-rabbit-123?
Для этой задачи есть минималистичная библиотека
Установка:
Репозиторий: https://github.com/nebbles/hruid-python
👉 DataFrog | #datascience #code
Для этой задачи есть минималистичная библиотека
hruid. Она делает ровно одно — генерирует уникальные и читаемые идентификаторы по шаблону число-прилагательное-существительное-глагол-наречие.import hruid
generator = hruid.Generator()
phrase = generator.random()
print(phrase)
11-suspicious-owls-consume-eagerly
Установка:
pip install hruidРепозиторий: https://github.com/nebbles/hruid-python
Please open Telegram to view this post
VIEW IN TELEGRAM