Исследователи OpenAI утверждают, что постоянная проблема «галлюцинаций» у чат-ботов ИИ связана с методами обучения и оценки языковых моделей, а не с какими-то загадочными техническими недостатками.

В исследовании компания по разработке искусственного интеллекта объясняет, что современные системы оценки по сути учат модели блефовать, а не признавать свою неуверенность.

В работе, опубликованной совместно с партнёрами из Технологического института Джорджии, основная причина такой проблемы объясняется фундаментальным несоответствием критериев оценки: даже продвинутые модели, такие как GPT-5, продолжают делать уверенные, но неверные заявления.

«Галлюцинации» появляются не из-за конструктивных ошибок, а из-за факторов обучения, при которых модели поощряются за догадки, а не за честное указание на свою неуверенность.

Прогноз на The International 2025 от ChatGPT

Аналитическая модель OpenAI подготовила турнирную сетку с прогнозами.

Полная схема — на изображении ниже.

Dota 2 всегда полна сюрпризов, но именно так выглядит наиболее вероятный сценарий по данным модели.

Верим?

OpenAI заключила сделку с Oracle на покупку вычислительных мощностей для развития ИИ на сумму $300 млрд сроком на пять лет, сообщила газета The Wall Street Journal.

Отмечается, что для работы такого центра обработки данных понадобится мощность в 4,5 гигаватт, что эквивалентно потреблению энергии около 4 млн домов.

ChatGPT будет ПО ПАСПОРТУ — OpenAI внедряют проверку возраста в свою нейросеть.

Если ИИ решит, что вы зумер младше 18 лет по стилю общения, вам выдадут специальную УРЕЗАННУЮ версию ChatGPT с жёсткой цензурой и родительским контролем.

Чтобы вернуть всё, как было — придётся показать документы.

@exploitex

OpenAI собирается вложить $100 млрд в резервные серверы — и это только страховка поверх безумных $350 млрд, которые уйдут на аренду мощностей до 2030-го.

Основная цель — не зависеть от сбоев облачных провайдеров и держать под рукой подушку из собственных мощностей. В 2028-м расходы на эти резервы достигнут максимума — $40 млрд за год.

Масштаб можно сравнить разве что со всей индустрией: сейчас клиенты AWS, Microsoft, Google Cloud и Oracle вместе тратят около $200 млрд в год.

Но главный риск даже не в деньгах. Вдумайтесь: эксперты всерьёз считают, что в какой-то момент OpenAI упрётся в пределы энергосистемы США.

OpenAI дропнули огромную библиотеку промптов для ChatGPT

В ней вы найдите шпаргалки под любую профессию: эйчар, инженер, продажник, маркетолог и многие другие. Промпты заточены под решение конкретных задач, без воды и без необходимости доработки.

Оставляем ссылку, пользуйтесь.

Глава OpenAI Сэм Альтман заявил, что человечество может потерять контроль над искусственным интеллектом не только из-за умышленных действий или выхода технологий из-под контроля, но и вполне естественным образом. Об этом он рассказал в подкасте с главой Axel Springer

По его словам, недооценен тот сценарий, при котором люди постепенно начинают полностью полагаться на советы алгоритмов, теряя свое собственное Я.

«Это можно осознать, представив, что происходит с ChatGPT прямо сейчас. Сотни миллионов людей общаются с ChatGPT, скоро их будут миллиарды. И люди все больше полагаются на его ответы – при принятии важных решений в жизни, на работе, во всем», – отметил Альтман.

Он подчеркнул, что люди все сильнее зависят от искусственного интеллекта. По его мнению, ИИ станет еще умнее и начнет давать советы, которым люди будут следовать почти безоговорочно. Затем ИИ станет настолько продвинутым, что его рекомендации будут казаться непонятными, но при этом окажутся верными. В итоге у людей останется два выбора: следовать советам ИИ или проиграть в конкурентной борьбе.

В такой ситуации, считает Альтман, человек фактически перестает самостоятельно принимать решения. По его словам, это приводит к своеобразной «петле обратной связи»: чем больше люди слушают ИИ, тем быстрее он обучается и становится сильнее.

«Кто вообще тогда контролирует процесс? Получается, что мы делаем то, чего хочет модель», – резюмировал Альтман.

От себя можем добавить — для порабощения одного биологического вида другим (тем более — надбиологическим) совершенно не нужна субъектность и воля. Паразитический гриб кордицепс не обладает ни самосознанием, ни волей, ни субъектностью. Что не мешает ему управлять поведением муравьев в своих эволюционных потребностях, в конце-концов доводя бедных насекомых до преждевременной смерти.

Американская компания OpenAI стала самой дорогой частной компанией в мире, обогнав SpaceX, оценка разработчика чат-бота ChatGPT достигла 0,5 триллиона долларов, сообщает агентство Bloomberg.

ИИ-пузырь на пределе: банкротство OpenAI грозит мировым финансовым кризисом

Каждый день ChatGPT пользуется 800 млн человек, из которых за подписку платит только 5 % пользователей. По данным Financial Times, OpenAI работает в убыток, а её годовой доход составляет всего $13 млрд.

Мало того, что компания тратит колоссальные деньги на разработку новых моделей, так недавно ещё взяла обязательство за десять лет выплатить $1 трлн NVIDIA, AMD и Broadcom в обмен на ускорители для ИИ-дата-центров общей мощностью свыше 26 гигаватт.

Выкарабкиваться из трудного финансового положения компания рассчитывает за счёт государственных контрактов и больших инфраструктурных проектов вроде Stargate. Но, даже если OpenAI утроит годовую прибыль, этого всё ещё будет недостаточно для погашения накапливающейся задолженности.

Если Сэм Альтман не сможет каким-то чудом превратить $13 млрд в $1 трлн, его компанию может ждать банкротство. При этом 80 % прибыли приносят не корпоративные клиенты, а подписчики тарифа Plus за $20 в месяц.

Рано или поздно OpenAI придётся сокращать количество бесплатных запросов в ChatGPT и вставлять рекламу в свои сервисы.

Компания уже анонсировала режим личного секретаря для ChatGPT, в котором тот сам рассылает пользователям таргетированные рекомендации. Сейчас он доступен только для платных подписчиков, но при острой необходимости компания может раскатать его для всех пользователей.

При этом на репутационном успехе ChatGPT завязано будущее остальных ИИ-гигантов. Если «новой индустриализации» не случится, вслед за OpenAI полетят вниз акции NVIDIA, Google и Microsoft, а за ними рухнет весь фондовый рынок. Искусственный интеллект точно изменит наш мир, но не так, как мы этого ожидали!

Центральный банк Англии уже призвал инвесторов готовиться к экономической рецессии. Вероятность наступления финансового кризиса теперь зависит от количества людей, готовых платить $20 за подписку на ChatGPT.

Автор: Павел Урлапов

OpenAI купили сервис Sky. Это умный помощник, который позволяет управлять macOS через естественный язык, понимает содержимое экрана и выполняет действия в приложениях.

Пока Sky не выпустили публично, но он уже демонстрирует реальный потенциал: его можно использовать для написания текста, планирования задач и даже кода.

Чем-то похоже на Copilot от Microsoft. Интересная штука, посмотрим, что из этого выйдет

OpenAI готовится выходу на IPO — компанию могут оценить в сумасшедший триллион долларов, пишет Reuters. Если это подтвердится, выход станет вторым самым дорогим в истории.

Выше было только размещение арабской нефтяной компании Saudi Aramco c оценкой $1,9 трлн. Для сравнения: второе место сейчас принадлежит Alibaba — при выходе на IPO её оценили всего на $175 млрд.

OpenAI существует меньше десяти лет.

Сегодня ждём новую модель генерации изображений от OpenAI

Альтман дропнул тизер с собой в пяти рубашках

В ChatGPT завезли раздел Images — это отдельный фоторедактор прямо внутри нейронки. Новая модель OpenAI умеет править изображения: работает примерно в 4 раза шустрее, не забывает, как выглядел человек в предыдущем кадре и наконец-то адекватно следует промтам.

Самое важное — стало реально удобно менять отдельные элементы кадра, не ломая всё остальное. Можно подправить позу, свет, одежду или фон.

Уже доступно всем пользователям ChatGPT