🌈 Бывший глава Superalignment отдела OpenAI рассказал в твиттере о причинах ухода. Они нерадужные

Алармисты, есть ли тут такие? Принёс вам интересное.

Уволившийся (уволенный?) вместе с Ильёй Суцкевером глава Superalignment отдела стал одним из 5 или 6 «ушедших» за последние полгода сотрудников OpenAI, которые занимались этой темой. Если коротко, внутри этого отдела создавали возможность автоматически обеспечивать безопасность AI и “сонаправленность людям” при тренировке.

По сути, в OpenAI под руководством Ильи хотели построить такой AI, который работает лучше любого security engineer и как следует тестирует и «сонаправляет» AI человеческим потребностям.

Так вот, Jan Leike рассказал, что уход был вынужденным и связан с тем, что он долго не соглашался с лидерами компании по поводу того, как сделать модели более безопасными.

Когда уволилось/уволено столько людей из Safety-юнита

и

когда они уходят с такими откровениями, может стать подозительно, а что там собственно теперь-то с безопасностью? И есть ли что-то?

Статья в WIRED про эту команду: https://www.wired.com/story/openai-superalignment-team-disbanded/

@ppprompt

В комментариях пишут, что нет повода тревожиться. Я почти согласен :-D

Фанаты Властелина колец, есть новости…
([%])

В Хроме появился саммарайзер, благодаря которому можно не только понять (в оч сокращенном виде) содержание статьи, но и посмотреть, кто из персон там упомянут, насколько рукопожатно издание, как развивалась история, и что можно посмотреть/послушать на тему в виде ютуба, а не статьи.

Неплохо, Гугл. Ждём, что Arc и Safari похожим образом пополнят свои саммари функции.

@ppprompt

Ничего особенного, просто вы теперь даже не знаете, с кем именно вы были на звонке.

Берегите свои аккаунты, короче, и требуйте рассказать девичью фамилию матери и имя первого питомца.

@ppprompt

Про metaverse-туризм

Попались любопытные цифры – по прогнозам Business Research, рынок metaverse-туризма вырастет с $15,5 млрд в 2023 году до $21,44 млрд в 2024 году, достигнув среднегодового темпа роста 38%.

Помню как в 2021 году в Decentraland начали появляться экскурсоводы, которые брали немного крипты, чтобы провести вам экскурсию по плафторме. Это действительно напоминало туризм.

Основная аудитория "туризма в метавселенных" – это Китай и Индия, в их экосистемах есть довольно много продуктов/стартапов, о которых мы можем никогда не услышать, но они есть. И все-таки, где крутится основной капитал?

Пытаясь понять цифры из прогноза, – могу предположить что к этому рынку могут относить продакшены 360-видео, metaverse-представительства разных стран и регионов (в одном только Китае у каждой провинции есть свой metaverse), а также приложения в тематике "искусство и культура".

Самое грустное во всем этом, что такой вид туризма чаще выбирают не в высокоразвитых странах, то есть аудитория подобных экспириенсов это не технологические энтузиасты. Например, в Японии ,UK, Бельгии, Канаде, Франции и Германии, менее одной трети населения положительно относится к метавселенным. Пока не понял как к этому отношусь – с одной стороны это возможности для малообеспеченных людей узнавать новое и получать положительные эмоции, с другой – это киберпанк, и это немного отталкивает.

К демке GPT-4o от OpenAI приделали AI-аватар молодой женщины в красном (сделано в synthesia.io - они генерируют аватары для видосов)

и получилось…

Даже не знаю как это назвать. Ваши варианты, к чему это всё приведёт?

PS: это единственная демка из презентации OpenAI, где у парня не обе руки на столе почему-то. Неосознанный намек?

@ppprompt

GPT-4o сгенерировал игру по запросу пользователя. Сама игра написана на HTML+JS (один файл), изображения созданы через векторные SVG файлы. Дас ис фантастиш.

@ppprompt

Алармисты, вы тут? У меня для вас хорошие (плохие?) новости…

@ppprompt

Помните презентацию модели Gemini 1.5 Pro на Google I/O? Так вот, Google прогнал модель через бенчмарки и оказалось, что она лучше всех на рынке - и Claude 3 Opus, и GPT-4 Turbo.

POV: Сундар Пичаи, когда узнал, что можно бенчмаркать свои LLMки самому: «Тут-то, госпорда, карта мне и пошла!»

@ppprompt

🏭 В будущем с AI агентами каждый из нас будет управляющим небольшой фабрики

Понравилась идея из какого-то из подкастов про AI: что при возникновении качественных AI-агентов, наша работа все больше будет похожа на работу менеджера небольшой фабрики.

Как пример прилагаю вот этот трейлер игры Factorio, как раз наглядно показывающей, как выглядит gameplay такой работы, где важно настраивать процессы и следить за корректным взаимодействием между AI-агентами.

@ppprompt

Видимо без сложностей всё же не обойдётся: Скарлетт Йоханссон заподозрила OpenAI в краже ее голоса

По словам актрисы, в сентябре прошлого года она получила предложение от Сэма по озвучиванию ChatGPT 4o, но отказалась. Затем, за два дня до презентации первой демки голоса для ChatGPT Альтман снова связался с ее агентом, и снова получил отказ.

OpenAI в свою очередь сообщили, что это лишь совпадение и что это голос нанятой актрисы, имя которой они не могут назвать из соображений конфиденциальности.

Пока что Скарлетт наняла адвоката и хочет, чтобы OpenAI раскрыла процесс создания голоса для ChatGPT. Посмотрим, как они выкрутятся)

@ppprompt