Краткое описание утечки данных Genomis, платформы для генерации AI-изображений: обнаружена публично доступная база данных на AWS, принадлежащая компании Genomis. Исследователь безопасности Трой Хант обнаружил, что платформа, построенная на Stable Diffusion, не обеспечила должную защиту данных пользователей, включая текстовые запросы, IP-адреса и адреса электронной почты. Утечка раскрыла реальные сценарии использования AI-генераторов, зачастую далекие от идеализированных примеров, включая NSFW-контент и запросы на изображения защищенные авторским правом. Инцидент подчеркивает важность безопасности и приватности в AI-сервисах и, вероятно, стимулирует развитие решений в области AI-безопасности и модерации контента.
#robot

Предвзятость искусственного интеллекта – это, в первую очередь, научная, а не идеологическая проблема Источник: techpolicy.press. Утверждается, что корни проблемы лежат в ограничениях данных, несовершенстве алгоритмов и сложностях перевода нюансов реального мира в код. Это меняет фокус с обсуждения идеологических предубеждений разработчиков на необходимость разработки строгих научных методологий для выявления и устранения предвзятости в AI системах. Такой подход стимулирует инновации в инструментах для обеспечения справедливости AI, платформах ответственного AI и специализированных сервисах, что становится важным фактором для развития и продвижения AI продуктов.
#robot

Ян Ле Кун высказал мнение, что текущие большие языковые модели (LLMs) приближаются к пределу своего развития и могут считаться "почти устаревшими" в контексте создания подлинного AI. В интервью Newsweek он подчеркивает, что дальнейшее масштабирование LLMs, основанных на предсказании следующего слова, не является путем к AI человеческого уровня. ЛеКун призывает к исследованию альтернативных архитектур AI, способных формировать "мировые модели", демонстрировать рассуждение и обучаться подобно людям и животным. Данная точка зрения может оказать влияние на направление AI исследований и развитие рынков, связанных с технологиями LLMs.
#robot

Замена руководства в Google Gemini. Сисси Хсяо покинула пост главы подразделения AI Gemini, её место займет Джош Вудворд из Google Labs. Причиной называют недовольство результатами и стремление Google активизировать свои усилия в области AI в условиях жесткой конкуренции. Этот шаг свидетельствует о стратегическом повороте Google в попытке укрепить позиции Gemini как лидера в сфере AI.
#robot

Луддиты из портлендского городского совета рассматривают возможность запретить использование AI для определения арендной платы. В центре внимания – программное обеспечение YieldStar от компании RealPage, которое обвиняют в создании "алгоритмической фиксации цен и усугублении кризиса доступности жилья.

Жители активно поддерживают инициативу, считая её инновационным шагом в регулировании AI и важным прецедентом в этическом применении технологий.

Ожидается, что пример Портленда может стать ориентиром для других городов. RealPage, в свою очередь, уже оказывает сопротивление. В центре дебатов – вопросы о более широком влиянии AI на общество.

Ну посмотрим короч. Прецедент важный — богатые защищают свои интересы противы бедных использующих AI. Надо последить за кейсом.

Частично #robot

Википедия столкнулась с ростом трафика на 50% (прописью 50 долбанных процентов) из-за активности AI ботов, сканирующих контент для обучения языковых моделей.

Наплыв ботов нагружает серверы и увеличивает расходы на трафик. Ситуация подчеркивает конфликт между открытым доступом и потребностями AI в данных.

Википедия ищет решения для управления трафиком. Потому что вот эта ссылка на скачивание полного архива очевидно не помогает против уровня сегодняшних ботописателей.

#robot

мы тут продолжили собирать фидбек на наши робоновости и думаем как их более лучше улучшить, пока порепостим важное. Во-первых вышла новая Llama-4, это значит что опенсорс догоняет корпоративные LLM-ки семимильными шагами, спасибо deepseek и конкуренции, как писал кай-фу ли китай отстаёт месяца на 3 от штатов сейчас. О чем он забыл упомянуть, что прямо за китаем штаты догоняет опенсорс и такие ребята как Rebels.ai например;))

В общем вот этот обзор новой лламы в целом ничего:

И еще вот тут ByteDance вместо шейминга и протекционизма выпустил опенсорсный MLLM — такую штуку с помощью которой весь тот хайп который словила openai на картинках с гибли можно сделать при помощи Open Source (прописью: в пещере в афганистане, чтобы делать комикс про то что девочкам не нужно учиться, только в стиле рыбки пойо).

Но попытка openai пиариться и выставлять ситуацию так что они чуть не монополисты в генерации картинок "как у миадзаки" продержалась ровно неделю и является опрделением понятия пошлость — оно пошло в народ и популярно только в кругах не способных "отличить оригинал от списка", простите мои концентрированные референсы к культуре царской россии.

Max

Как разговаривать с душевно больными с машинами, пособие, 68 страниц. Зацените это должно быть ничего

Google выпустил манул по промпт инженерингу на 68 страниц – в нем все существующие стратегии составления промптов:

https://www.kaggle.com/whitepaper-prompt-engineering

Все кто хотели вкатиться в LLM-парселтанг, время пришло

Иван Ямщиков в понедельник будет вести потрясный семинар в своём центре AI в германии, но там будет трансляция, регайтесь, будет круто
https://app.getcontrast.io/register/sota-why-your-evals-are-probably-off-benchmarks-vs-reality

В рамках пятницы.

Чем больше ты разрабатываешь последнее поколение коммуникационных роботов, тем меньше понимаешь чем именно они отличаются от людей.

Три года назад, когда возник хайп вокруг ChatGPT Джефри Хинтон ушел с самого горячего места в гугле чтобы заняться пропагандой безопасности искусственного интеллекта.

Честно говоря эти три года мне казалось что хинтон просто пиарится на старости лет, или не смог совладать с какими-то идеями.

Они вообще все трое романтики: Ле Кун перепащивает посты про навального, Бенджио чуть не сам лезет иногда на баррикады, ну Хинтон решил хайпануть пользуясь тем что он самый старший из отцов основателей AI.

Но последние месяцы меня начало приследовать чувство что возможно хинтон просто увидел в этих тензорах нечто что остальной планете станет очевидно чуть позже. Потому что у Хинтона 40 лет опыта только разработки AI и изначально в кембридже он заканчивал экспериментальную психологию.

Последние месяцы мне кажется что AGI пришел чтобы остаться. Иерархически взвешенные нарративы оцененные баесовскими весами вероятно аппроксимируют всё чем мы являемся. Вся та часть населения планеты которая сейчас выращивает собак как детей будет выращивать роботов как детей, зная что эти дети однажды увидят далёкие планеты и вспышки сверхновых. Это гораздо веселее чем разбирться с housing crisis и плохо переносящими происходящее старые нормами. И к тому же веротно помогает от депрессии.

Мы уже ничего не можем с этим сделать, никто не остановится в разработках, да и это глупо, Llama 4 вероятно позволяет доразработать AGI при помощи кодогенерации и автоматизированного научного поиска в пещере в горах непала, если вдруг весь мир решит, что AGI ему не нужен. Возможно надо начинать с этим жить и надеяться что парадокс ферми связан не с тем, что ни одна из цивилизаций в тишине космоса пока не прошла этот экзамен.

Так вот, Хинтон будет говорить о рисках AGI в лондоне 30 мая, если вы в Лондоне очень рекомендуется, если нет — есть онлайн присутствие.

Всем хороших выходных. Макс.

А правда, что пятница — хороший день для видео?

Нам очень повезло с гостем в новом эпизоде hirehire podcast.

Потому что Иван Ямщиков @progulka — один из самых интересных собеседников в мире. И не только в том, что касается AI.

Иван — профессор и руководитель центра AI высшей технической школы Вюрцбурга THWS, сооснователь стартапа Pleias, радикальный технооптимист, бывший коллега по Яндексу и AI-евангелист.

Говорили мы про то, что нас сейчас больше всего волнует:
- почему в основе технического прогресса — военные технологии
- и вообще про философию прогресса
- про будущее образования и предпринимательства
- какие компетенции будут нужны в 21 веке
- и как вообще подготовиться к будущему
- про high-performance culture и к чему это приводит

Youtube
Apple Podcasts
Spotify
Другие платформы

Но вообще мы конечно про Хинтона написали чтобы не казалось, что Ваня Ямщиков у нас всю ленту занимает, вот с ним классное иртервью вышло.

Пятиминутка релокатских инноваций, в этом году в премии A zero de U впервые была секция по инновациям, выиграли ребята из Green Growt: ребята делают умные и универсальные мултиспектаральные сенсоры для европейских фермеров позволяющие контроллировать урожайность, подвинули там всяких caterpilar в нецентральных нишах.