китайские коллеги научились с помощью диффузионок восстанавливать лицо по ДНК; на мой взгляд это серьезный прорыв (хотя, надо признать, я не слежу внимательно за этой областью); в работе провели верификацию на людях: взяли десять добровольцев, давали им сгенерированное изображение лица, а потом ряд реальных фотографий, в 75% случаев добровольцы смогли выбрать правильное фото из 5 вариантов
🔥17🤯11
Дэвид Сильвер (один из основателей DeepMind) и Ричард Саттон (автор классического учебника по обучению с подкреплением) выпустили статью, только это не привычная нам статья с результатами, а то, что в англоязычной литературе называется position paper; в этой работе они постулируют начало "эры опыта", когда модели начнут получать информацию непосредственно взаимодействуя с миром; это аналог того, как обучаются дети
с одной стороны я согласен, т.к. к 13 годам человек в среднем видел 100 миллионов слов, но способен выполнять задачи, на которые современные LLM, которые видели по нескольку триллионов слов; из этого с очевидностью следует, что опыт взаимодействия с миром важен; с другой стороны, не очень понятно, как это все будет интегрировано - мультимодальность еще далека от идеала
с одной стороны я согласен, т.к. к 13 годам человек в среднем видел 100 миллионов слов, но способен выполнять задачи, на которые современные LLM, которые видели по нескольку триллионов слов; из этого с очевидностью следует, что опыт взаимодействия с миром важен; с другой стороны, не очень понятно, как это все будет интегрировано - мультимодальность еще далека от идеала
✍7💯4👍2
с моим коллегой произошла типичная история кражи идеи из головы: вышла работа, где предлагается концепция soft thinking (первая картинка); простыми словами это про то, что рассуждения в виде слов ограничивают выразительную способность модели (думаю, что и человека тоже), если это ограничение снять (вторая картинка), то результата можно достичь быстрее (третья картинка)
P.S. сейчас пошла мода делать одностраничные сайты для статей, где выкладывать основные результаты с красивыми картинками,я такие сайты называю комиксами, и только приветствую их появление, т.к. доходчивость у них действительно больше
P.S. сейчас пошла мода делать одностраничные сайты для статей, где выкладывать основные результаты с красивыми картинками,
❤12👍7
завтра буду участвовать в онлайн-дискуссии в рамках конференции "AI-инструменты и разработка"; дискуссия будет под лозунгом «ИИ в разработке: мечта менеджера, кошмар инженера»; участие в конференции бесплатное, начало дискуссии в 14:10, регистрация тут
👍7❤2
Google выпустил AI Edge Gallery - это приложение под андроид, которое позволяет скачивать модели с HuggingFace (первая картинка) и запускать их на мобильном устройстве (вторая картинка)
на мой взгляд тут уместно вспомнить уже классическую историю про сравнение с Apollo Guidance Computer (третья картинка): у него было 32 кб памяти и 43 Гц частоты (именно Герца без приставок), для сравнения у последнего Google Pixel 16 Гб памяти и 3,4 ГГц частоты (на 8 ядрах), что делает его примерно в 1 000 000 раз мощнее; это к вопросу об эффективном программировании; зато на нем можно LLM крутить, да
на мой взгляд тут уместно вспомнить уже классическую историю про сравнение с Apollo Guidance Computer (третья картинка): у него было 32 кб памяти и 43 Гц частоты (именно Герца без приставок), для сравнения у последнего Google Pixel 16 Гб памяти и 3,4 ГГц частоты (на 8 ядрах), что делает его примерно в 1 000 000 раз мощнее; это к вопросу об эффективном программировании; зато на нем можно LLM крутить, да
💯10❤2
Эрик Шмит говорит, что 99 процентов электроэнергии будет использоваться под нужды ИИ; мы недавно эту тему обсуждали; как я понимаю, про США он вот такое говорит:
тогда за полтора года надо добавить 2,5% процента от общей генерации (она составляла 1188 ГВт в 2023 году, согласно EIA) и еще 5% за следующие 3 года, темпы прямо скажем стахановские
"Many people project demand for our industry will go from 3 percent to 99 percent of total generation... an additional 29 gigawatts by 2027 and 67 more gigawatts by 2030,"he said.
тогда за полтора года надо добавить 2,5% процента от общей генерации (она составляла 1188 ГВт в 2023 году, согласно EIA) и еще 5% за следующие 3 года, темпы прямо скажем стахановские
Futurism
Former Google CEO Tells Congress That 99 Percent of All Electricity Will Be Used to Power Superintelligent AI
Billionaire tech tycoon Eric Schmidt told Congress that 99 percent of electricity will soon be used to power AI.
👍2⚡1
я много лет пользуюсь StackOverflow для вопросов по программированию, в том числе по TeX, а сегодня я заметил шапку сайта; эльфийские письмена, да, именно так нормальные люди воспринимают эти наши научные статьи
😁25😐1
оказывается, у нас тоже не отстают в плане внедрения ИИ в медицину от Саудовской Аравии (ну ладно, отстают, но в этом случае, я считаю, поспешать нужно медленно)
кстати, про внедрение ИИ у нас в судопроизводство тоже была не так давно новость
ФГБНУ "НИИГБ имени Краснова" готовится внедрить передовую систему диагностики, мониторинга и лечения возрастных заболеваний сетчатки на основе ИИ-технологий, которая опирается на обширную базу офтальмологических медицинских данных
кстати, про внедрение ИИ у нас в судопроизводство тоже была не так давно новость
TACC
НИИГБ им. Краснова готовится внедрить систему диагностики сетчатки на основе ИИ-технологий
Технологии будут основываться на клинической базе, которая позволяет создавать системы, способные ставить очень точный диагноз
❤4👍4
мало кто знает, но я в бакалавриате занимался компиляторами, так что новая работа (что интересно от коллег из Visa) меня сразу заинтересовала; суть работы показана на первой картинке, а на второй - черрипикнутый результат; на их наборе данных они смогли ускорить исполнение кода вполовину относительно
на третьей картинке результаты тестирования, меня там смущает то, что сравниваются с другими моделями, а не с тем же
gcc -O3; я в свое время делал доклад про написание программ с помощью трансформеров, вот тут зашли с другой стороны в ту же рекуна третьей картинке результаты тестирования, меня там смущает то, что сравниваются с другими моделями, а не с тем же
gcc, у которого есть под сотню разных доступных оптимизаций (O3 включает далеко не все); второй пункт - то, что при применении LLM к бинарнику, выход может быть поломанным - примерно в 4% случаев; этим и gcc грешит, но с ним напрямую не сравниваются; в статье есть отдельный раздел про то, что LLM пока не могут заменить компиляторы, что видно и по результатам - без готового бинарника напрямую из С они рабочий ассемблер почти не могут сгенерировать👍11✍5🔥3
к слову о поспешать медленно, недавно была новость о том, что в США госорганизация (президенстская комиссия Make America Healthy Again) выпустила отчет о здоровье детей как минимум частично сгенерированный LLM; там тут же обнаружили галлюцинации с несуществующими цитатами, страшно подумать, что там может быть еще
NY Times
White House Health Report Included Fake Citations
A report on children’s health released by the Make America Healthy Again Commission referred to scientific papers that did not exist.
🌚6😢3👍2
во Вьетнаме осенью (25-26 октября) будет проходить дружественная конференция FPT International Conference on Emerging Trends in Computing, посвященная в основном AI; вот темы:
предполагается публикация в индексируемом Scopus журнале, крайний срок подачи 30 июня; подаваться тут
Data Availability and Quality
Data Collection and Annotation
Synthetic Data Generation
Energy Efficiency and Optimization
Efficient Algorithms and Models
Model Compression and Quantization
Edge Computing and Decentralization
Edge AI
Federated Learning
NLP for Low-resource Languages
Transfer Learning and Domain Adaptation
Unsupervised and Semi-supervised Learning for Low-resource NLP
Multi-lingual and Cross-lingual NLP
Image and Video Understanding
Deep Learning for Visual Understanding
Face and Expression Recognition
Content-Based Indexing, Search, and Retrieval
Machine Learning Applications
Medicine, Health, Bioinformatics and Systems Biology
Industrial and Engineering Applications
Smart Cities and Autonomous Driving
предполагается публикация в индексируемом Scopus журнале, крайний срок подачи 30 июня; подаваться тут
❤4👍3🔥1
пришла новость, девелопер MR Group будет внедрять Алису, как "цифрового консьержа"; с одной стороны - дело хорошее, но меня это все несколько смущает в свете недавних новостей про то, что Claude будет автоматически оповещать соответствующие органы, если пользователь будет запрашивать что-то противозаконное; я готов поставить на то, что так сказать лучшие практики Яндекс переймет у коллег из-за океана очень быстро, как не раз уже бывало
Коммерсантъ
«Алисе» дадут ключи от квартиры
«Яндекс» договорился с MR Group о внедрении своего ИИ в новостройки
🫡7👍4🔥2🤔2👎1🤯1😱1
сообщают, что устав бороться с ChatGPT преподаватели в США начали переходить обратно на тетради, в смысле на прием работ в письменной форме; тут велик соблазн сказать, что это современные луддиты, но я думаю, что тут скорее уместна другая аналогия - с калькуляторами в российских школах; когда я учился их еще запрещали, сейчас, насколько я знаю, разрешили
проблема не в калькуляторах, а в том, чему и как мы учимся; учиться писать тексты важно, но важно уметь именно выражать свои мысли; в выражении принципиально важна логическая структура, а саму техническую работу по красивым формулировкам можно оставить и ChatGPT; на мой взгляд тут полная аналогия с программированием
@valuableai
проблема не в калькуляторах, а в том, чему и как мы учимся; учиться писать тексты важно, но важно уметь именно выражать свои мысли; в выражении принципиально важна логическая структура, а саму техническую работу по красивым формулировкам можно оставить и ChatGPT; на мой взгляд тут полная аналогия с программированием
@valuableai
👍8🤔2👎1😱1🤣1