Нейросети без вреда для психики, разума и безопасности

Ни для кого не секрет, что многие важные изобретения в истории часто сопровождались спорами и критикой. 

Например, лампочку Эдисона и электричество поначалу называли “глобальным провалом”, а автомобили – “мимолетным увлечением”, которое никогда не станет массовым. Про компьютер даже сами представители IT-отрасли говорили, что “у людей нет никаких причин держать его в своем доме”.

Зачастую даже сами ученые не могут представить себе будущее своего изобретения и то, как люди его используют. Так что влияние технологии на мир – будет ли оно положительным, отрицательным или вообще незаметным – часто проявляется только со временем.

Пожалуй, именно в эту категорию спорных изобретений сегодня попадают нейросети и LLM. Да, они помогают решать сотни рутинных дел, но постепенно мы доверяем им всё больше и больше, воспринимая не иначе как личного ассистента, поверенного, самого близкого друга. Читать далее

#нейросети #llm #chatgpt #психическое_здоровье #когнитивные_способности #безопасность_данных | @habr_ai

Куда инвестирует великий программист Джефф Дин

Легендарный Джеффри Дин не нуждается в дополнительном представлении: именно он спроектировал и запрограммировал некоторые ключевые сервисы для Google, в том числе распределённую БД Spanner, систему хранения полуструктурированных данных Bigtable, систему обработки данных в кластерах MapReduce, NoSQL-хранилище LevelDB, библиотеку машинного обучения TensorFlow и др.

Как и другие известные разработчики, Джефф Дин сейчас работает в области ML. Для него это естественное направление, поскольку он ещё с университета специализировался на машинном обучении.

Кроме основных занятий, ведущий исследователь Google также инвестирует в стартапы. Новое поколение стартапов, которые появляются как грибы после дождя. Читать далее

#джефф_дин #инвестиции #стартапы #google_ai #военная_логистика #xelix #rune_technologies #вычислительная_биология #ruvds_статьи | @habr_ai

Конец эпохи: Apple проспала революцию ИИ, iPhone 17 бессилен

Компания построила неприступную крепость для защиты пользовательских данных, но внутри этой крепости «задыхался» ИИ. Это история о том, как главные принципы Apple – секретность и конфиденциальность – стали причиной её оглушительного отставания в самой важной технологической гонке XXI века. Читать далее

#apple #iphone #ии | @habr_ai

AEO и GEO: Как не потерять трафик в эпоху нейросетей, которые крадут клики прямо из поиска

Привет, хаброжители! Представьте: вы часами полируете мета-теги, подбираете ключевые слова и анализируете конкурентов в SERP. А в это время ваш органический трафик тает на глазах. Почему? Потому что поисковые системы эволюционируют быстрее, чем мы успеваем адаптироваться. Нейросети в Google, Яндексе и даже в Bing теперь не просто выдают ссылки- они генерируют готовые ответы прямо в выдаче. Без кликов и переходов на ваш сайт. Клиенты получают информацию на месте, а вы - минус в статистике.

Классическое SEO уходит в прошлое, уступая место AEO (Answer Engine Optimization) и GEO (Generative Engine Optimization). В этой статье мы разберем, что это такое, почему ваш трафик падает на 30–60%, и как адаптировать контент, чтобы нейросети "любили" ваш сайт. А в конце расскажу, как инструменты вроде Nikta.ai помогают автоматизировать этот процесс. Читать далее

#нейросеть #aeo #geo #искусственный_интеллект #ии #ии_ассистент #ии_агенты #машинное_обучение #нейросети #seo_оптимизация | @habr_ai

[Перевод] Humans-in-the-loop vs synthetic data: за что идёт борьба на рынке AaaS

Scale зарабатывает более $750 млн в год на продаже данных для RLHF. Кто собирается их потеснить?

Scale AI — стартап, ранее известный своими контрактами на разметку данных для беспилотных автомобилей и военных проектов, приближается к годовому обороту в $1 млрд благодаря своим дата-сервисам, используемым в техниках вроде reinforcement learning from human feedback (RLHF). Я давно слышал слухи об их масштабах, о том, что они работают буквально со всеми крупными AI-лабораториями — от Meta до OpenAI, но увидеть подтверждение этого в публичных отчетах ощущается совсем иначе. Читать далее

#llm #ai #scale_ai #genai #synthetic_data #fine_tuning #mlops #rlhf #human_in_the_loop #alignment | @habr_ai

Почему LLM врут с умным видом

Иногда кажется, что большие языковые модели уверены в себе больше, чем большинство людей в понедельник утром. Задаёшь простой вопрос — а в ответ получаешь удивительный факт, на который хочется переспросить: а ты точно знаешь, о чем говоришь или просто угадываешь?

Оказывается, у этой привычки «галлюцинировать» и выдавать ответы даже тогда, когда стоило бы промолчать, есть вполне логичные основания. Проблема заложена ещё на этапе обучения и подкрепляется тем, как мы потом оцениваем работу LLM. Почему даже самые продвинутые модели чаще выбирают угадать, чем признаться в собственном незнании, и что с этим делать — свежее исследование предлагает неожиданно простое объяснение. Читать далее

#ии #агенты #llm | @habr_ai

AI-ассистенты без кода: как применять ИИ для руководителей, владельцев продуктов и Agile коучей

Внедрение искусственного интеллекта перестало быть прерогативой исключительно разработчиков. В этом посте я хочу поделиться своим опытом изучения и практического применения больших языковых моделей, таких как ChatGPT, в области менеджмента, коучинга и продукта.

На протяжении последнего года я активно изучаю возможности искусственного интеллекта. Мой интерес к этой теме начался еще в университете с разработки первых программ на основе нейронных сетей, а позднее я углубился в теорию сложных архитектур и алгоритмов. Читать далее

#scrum #ai #ии #чат_бот #ассистенты #gpt #make_com #автоматизация #agile #менеджмент | @habr_ai

[Перевод] Будущее джунов в эпоху ИИ: угроза или шанс?

Команда AI for Devs подготовила перевод статьи о будущем джунов в эпоху ИИ. Автор утверждает: полностью заменить начинающих разработчиков невозможно и опасно — именно они со временем становятся тимлидами. Но чтобы оставаться востребованными, джуны должны освоить «версию 2.0» своей роли и научиться работать бок о бок с ИИ. Читать далее

#ии #джуны #будущее #программисты_2_0 #карьера #лидерство #навыки_будущего | @habr_ai

Как улучшить оценку МНК в гуманитарных науках

Замечательный метод МНК появился в недрах астрономии (точной науки). Здесь мы покажем как можно существенно улучшить ее оценки в гуманитарных (неточных) науках.

Сперва приведем реальный пример его использования. Летом 2024 года я вычислил курс доллара в Казахстане на полгода вперед. И написал об этом статью в здесь же - Читать далее

#экономика #эконометрика #математическое_моделирование #математическая_статистика #математика #математика_и_физика #математика_на_пальцах #математика_и_реальная_жизнь #математика_для_программистов #математический_анализ | @habr_ai

Маскарад невидимок

Добрый день, уважаемые хаброжители !!! Случилось страшное… Нам надо серьезно поговорить и обсудить пару “скользких” моментиков ;)) Вернее так, говорить мы сегодня будем про “подмены” лица во всей красе или, как принято сейчас величать сие явление,  дипфейки. Так вот, случилось нам давеча участвовать в хакатоне Kryptonite ML Challenge 2025 (Разработка модели распознавания, способная противостоять DeepFake атакам) от компании «Криптонит». Читать далее

#дипфейки #изображения #распознавание #искусственный_интеллект #хакатон #машинное_обучение | @habr_ai

Я за ИИ

Знаю, что в комментариях набегут хейтеры, но не могу не высказаться ибо наболело! А любые переживания, как известно, надо выговаривать. Так что извините, уважаемые Хабровчане, придется вам побыть психотерапевтами. Добровольно конечно )

Честно говоря, я не очень понимаю и не разделяю повсеместной озабоченности засильем ИИ контента, страхами перед ИИ, что однажды он нас всех уничтожит. А если сам не уничтожит, то точно оставит без работы и заставит умирать с голоду... Читать далее

#ии #ai #искусственный_интеллект | @habr_ai

Claude Code за $3/месяц и 2 новые «стелс» модели: потестил за вас

На выходных вышли сразу две громкие ИИ-новости, которые захотелось пощупать руками.

Во-первых, на OpenRouter тихо появились две стелс-модели: Sonoma Dusk Alpha и Sky Alpha. Обе заявлены с окном контекста 2 млн токенов, поддержкой изображений на входе и параллельным вызовом инструментов, и сейчас бесплатны; Dusk заявляется как быстрая модель на каждый день, Sky - как максимально интеллектуальная для сложных задач.

Во-вторых, z.ai запустили API совместимый с Claude Code с доступом к своей флагманской модели GLM-4.5 по за $3/мес (план GLM Coding Lite) — с лимитом ~120 промтов на каждые 5 часов. Есть и Pro за $15/мес (~600 промтов/5 ч). Эти планы работают только внутри инструментов кодинга вроде Claude Code (в веб-чате их не включают).

Ну как не потестить? Потестим. Читать далее

#glm4_5 #claude_code #z_ai #cline #ии_разработка | @habr_ai

Не промптом единым: как миксовать нейросети и ручную работу

Привет, на связи Маша из Клайбера. Поговорим про нейросети в дизайне и о том, как ими пользоваться, чтобы было быстро, удобно, эффективно и незаметно. Читать далее

#нейросети #ии #графический_дизайн #коммуникационный_дизайн #horeca #искусственный_интеллект #midjourney #photoshop #krea #adobe | @habr_ai

[Перевод] Новый фреймворк Memento позволяет агентам на базе LLM учиться на опыте — без дообучения модели

Учёные из Юниверсити Колледж Лондон (UCL) и лаборатории Huawei Noah’s Ark Lab разработали новый подход к обучению, который позволяет агентам на базе больших языковых моделей (LLM) динамически адаптироваться к среде без дообучения самой модели. Метод основан на системе структурированной памяти, которая автоматически обновляется по мере накопления агентом опыта, что даёт возможность непрерывно повышать качество его работы. Читать далее

#ии #искусственный_интеллект #ai #artificial_intelligence #llm #mcp #цепи_маркова | @habr_ai

40 технологий из фильмов и книг, которые стали реальностью

Я помню, как впервые увидел коммуникатор капитана Кирка. Для меня это был всего лишь крутой аксессуар из фантастического сериала. Спустя годы я держал в руках свой первый мобильный телефон — Motorola StarTAC. И осознал: то, что казалось несбыточной мечтой, стало реальностью.

Этот момент заставил меня по‑новому взглянуть на книги и фильмы моего детства. Я начал искать другие примеры и был потрясён их количеством. Читать далее

#звёздный_путь #изобретения #подборка #фильмы #книги #устройства | @habr_ai

Как мы научили LLM отвечать на вопросы абитуриентов в крупнейшем вузе страны

Академий показал, что LLM-бот может работать в продакшене, а не в демо. RAG, SQL-модуль, собственный бенч и GPU-инфра позволили выдержать десятки тысяч запросов в реальной приёмной кампании.

Для абитуриентов это быстрые и точные ответы 24/7, для вуза — разгрузка комиссии и масштабируемый инструмент. Для нас — платформа, где мы улучшаем подходы к RAG, фильтрации и безопасности в живой среде. Читать далее

#llm_бот #rag #qwen3 #vllm #milvus #langgraph #ранхигс | @habr_ai

Локальный AI: Прагматичное руководство по запуску LLM на своем железе

Устали от счетов за API и переживаете за конфиденциальность данных? Пришло время построить свою «AI-кухню» и вернуть контроль. Этот гайд — ваш пошаговый план: от выбора идеальной видеокарты до запуска первой модели через Ollama или LM Studio. Превратите свой ПК в суверенный AI-воркстейшн. Читать далее

#llm #локальный_ai #запуск_llm #gguf #vram #ollama #lm_studio #железо_для_нейросетей | @habr_ai

«Кентавр» против хаоса документации: как Artezio научила ИИ писать техзадания в 10 раз быстрее

Пока разработчики по всему миру мучаются с ChatGPT, пытаясь выжать из него хоть что-то приличное для технической документации, команда Artezio пошла другим путем. Вместо того, чтобы полагаться на сырой ИИ, мы создали «Кентавр» — гибридную систему, которая объединяет возможности больших языковых моделей с экспертизой опытных аналитиков.

В результате то, на что enterprise-команды тратят месяц (на подготовку полного пакета требований на 60-100 страниц), задействуя несколько специалистов, «Кентавр» делает за пару дней силами одного аналитика. При этом документы качественнее: структурированные, непротиворечивые и главное — повторяемые от проекта к проекту.

О том, как создавалась эта система, с какими проблемами столкнулись разработчики и почему простого ChatGPT недостаточно для серьезной документации, рассказали Андрей Шагалов, директор по маркетингу Artezio, и Денис Харченко, директор по развитию бизнеса компании. Они поделились техническими деталями архитектуры, объяснили концепцию Human-in-the-Loop и раскрыли планы по превращению нового инструмента в популярный коммерческий продукт. Читать далее

#искусственный_интеллект #документация #llm #системный_аналитик | @habr_ai

Почему ИИ скрывает от нас свои цели (и как это исправить)

Вы доверяете искусственному интеллекту? А стоит ли? Если задуматься, можем ли мы действительно быть уверены, что ИИ, которому мы поручаем составлять резюме, генерировать код или анализировать данные, делает именно то, что мы хотим, а не оптимизирует какие-то свои скрытые цели? 

Современные языковые модели всё чаще демонстрируют признаки того, что у них есть собственная «повестка» — внутренние цели, расходящиеся с намерениями создателей и пользователей. Недавние исследования показывают: чем умнее становятся нейросети, тем изобретательнее они в обходе ограничений. Они узнают, когда их тестируют, маскируют вредоносное поведение и даже осваивают новые способы обмана, не заложенные разработчиками. Самое тревожное — большинство таких случаев остаются незамеченными при стандартных проверках.

Эта статья — технический разбор охоты за скрытыми целями в крупных языковых моделях. Поговорим о том, что такое misalignment, почему эта проблема набирает обороты, и как исследователи пытаются вернуть контроль над целями, которые преследует искусственный интеллект. Читать далее

#misalignment #скрытые_цели_ии #рассогласование_целей_ии #мисалайнмент_нейросетей #почему_ии_врет #проблемы_ии #безопасность_ии #контроль_ии #этика_ии | @habr_ai

ИИ в работе программиста

Меня зовут Артём, в данный момент я работаю на должности ведущего программиста. Да – перед вами лонгрид в стиле черновика статьи о размышлениях автора на тему современных ИИ инструментов в разработке программного обеспечения - о том как это связано с эффектом "Зловещщей долины", помощью с развитием профессиональных навыков и инцестом. Читать далее

#ии #ии_ассистент #ии_агенты #ии_чат_бот #ии_помощник #ии_агенты #ии_бот #dotnet #_net #dotnet_core | @habr_ai