если вас когда-либо занимал вопрос, "почему самолеты летают, а крыльями не машут", то ответ на него очень простой - потому что сделать машущий крыльями аппарат оказалось гораздо сложнее
ученые из моей альма-матер (МФТИ), похоже, наконец решили эту задачу - разработали систему управления маханием крыльями, которая похожа на реальную нервную систему птиц; обещают, что это приведет к созданию беспилотников, которые будут способны действовать в ограниченном пространства - например, в лесу между деревьями
@valuableai
ученые из моей альма-матер (МФТИ), похоже, наконец решили эту задачу - разработали систему управления маханием крыльями, которая похожа на реальную нервную систему птиц; обещают, что это приведет к созданию беспилотников, которые будут способны действовать в ограниченном пространства - например, в лесу между деревьями
@valuableai
🔥12🤬3😢2
интересные новости приходят с той стороны глобуса: в Огайо депутат местного парламента предложил закрепить в законе, что любой ИИ является неразумной сущностью ("nonsantient entity", даю ссылку на Wall Street Journal, т.к. сам законопроект у меня ни из-под одного прокси не открылся )
это интересно обсудить, т.к. с одной стороны сейчас много людей, которые пытаются найти в LLM признаки разума - тут достаточно вспомнить тестировщика из Google, который 3,5 года назад их "нашел"; я считаю, что никакого разума там, конечно, не было и нет, но утверждать, что он не появится в процессе разработки, особенно условиях усилий большого количества людей по созданию т.н. сверхсильного ИИ (ASI), я бы не стал
это все ставит важный вопрос - а что такое этот самый разум? по каким признакам мы отличим его наличие? на этот вопрос много людей пытается ответить; я бы здесь хотел вспомнить книгу "Ложная слепота" (Blindsight) - там вопрос определения разума ставится, но остается без ответа
@valuableai
это интересно обсудить, т.к. с одной стороны сейчас много людей, которые пытаются найти в LLM признаки разума - тут достаточно вспомнить тестировщика из Google, который 3,5 года назад их "нашел"; я считаю, что никакого разума там, конечно, не было и нет, но утверждать, что он не появится в процессе разработки, особенно условиях усилий большого количества людей по созданию т.н. сверхсильного ИИ (ASI), я бы не стал
это все ставит важный вопрос - а что такое этот самый разум? по каким признакам мы отличим его наличие? на этот вопрос много людей пытается ответить; я бы здесь хотел вспомнить книгу "Ложная слепота" (Blindsight) - там вопрос определения разума ставится
@valuableai
❤🔥8❤2🔥2👍1
я долго думал, как поздравить всех с наступающим Новым Годом, а потом мне на глаза попалась эта милая история: некий энтузиаст сделал самую крошечную языковую модель - вместе с кодом для обработки ввода-вывода она занимает всего 40 килобайт
на самом деле все еще интереснее, эта языковая модель - это программа для CP/M для процессора Z80 с 64 кБ памяти; в языковой модели используется хэширование для входных токенов - в его случае триграмм, это обеспечивает устойчивость к опечаткам; модель сквантована в 2 бита (-2, -1, 0 и 1), но на инференсе используется 16-битные целые вычисления, на которые рассчитан Z80
в качестве архитектуры там используются 3 полносвязных слоя и ReLU для активаций; при этом 128 токенов длинна входа и еще 128 - контекст; причем с этой радостью можно поиграть в загадки (отсюда взялся слон на заглавной картинке)
эта история учит нас, что даже в чем-то большом нужно видеть малое, а в малом - большое
с наступающим Новым Годом!
@valuableai
на самом деле все еще интереснее, эта языковая модель - это программа для CP/M для процессора Z80 с 64 кБ памяти; в языковой модели используется хэширование для входных токенов - в его случае триграмм, это обеспечивает устойчивость к опечаткам; модель сквантована в 2 бита (-2, -1, 0 и 1), но на инференсе используется 16-битные целые вычисления, на которые рассчитан Z80
в качестве архитектуры там используются 3 полносвязных слоя и ReLU для активаций; при этом 128 токенов длинна входа и еще 128 - контекст; причем с этой радостью можно поиграть в загадки (отсюда взялся слон на заглавной картинке)
эта история учит нас, что даже в чем-то большом нужно видеть малое, а в малом - большое
с наступающим Новым Годом!
@valuableai
🎉30👍9🔥4🎄3👏1
я хотел сегодня пропустить, чтобы дать всем отдохнуть, но меня догнала огненная новость - мои бывшие коллеги из исследовательского центра им. Н.Н. Лузина (это псевдоним, могу намекнуть на оригинальное навзвание - 🐉🪷🌺) выложили свой претрейн!
модель под названием Gamayun на 1.5B параметров, лучше Qwen2.5 аналогичного размера на русском, арабском, болгарском, испанском и польском языках!
также в этой работе коллеги предложили бенчмарк RuBIN, фактически измеряющий знание популярных русскоязычных цитат
мне очень приятно начать год с такой новости, поздравляю коллег из исследовательского центра им. Н.Н. Лузина, а также всех интересующихся русскоязычным NLP! 🎉🎉🎉
@valuableai
модель под названием Gamayun на 1.5B параметров, лучше Qwen2.5 аналогичного размера на русском, арабском, болгарском, испанском и польском языках!
также в этой работе коллеги предложили бенчмарк RuBIN, фактически измеряющий знание популярных русскоязычных цитат
мне очень приятно начать год с такой новости, поздравляю коллег из исследовательского центра им. Н.Н. Лузина, а также всех интересующихся русскоязычным NLP! 🎉🎉🎉
@valuableai
👍29❤11🔥5
всем привет, если вам нечем заняться на новогодние праздники, кроме доедания салатов, то еще есть возможность залететь в соревнование по переводу на тюркские языки (будет идти до конца праздников)
тем более, что появился повод, прямо под ёлочку 🎄 Tencent выпустили обновление своих моделей для машинного перевода Hunyuan 1.5(если я правильно понял, то наилучшим переводом 混元 будет "первичный бульон", как источник для всего разнообразия жизни)
коллеги выпустили две новых модели 1.8B и 7B, результаты (на картинке) впечатляют - бьют специализированные переводчики от Google и Microsoft, правда, проигрывают Gemini Pro(что, конечно, неудивительно)
кстати, часть результатов на FLORES-200, который среди 200 языков включает башкирский, казахский, кыргызский и татарский, так что можно залететь в соревнование с этими моделями; присоединяйтесь!
@valuableai
тем более, что появился повод, прямо под ёлочку 🎄 Tencent выпустили обновление своих моделей для машинного перевода Hunyuan 1.5
коллеги выпустили две новых модели 1.8B и 7B, результаты (на картинке) впечатляют - бьют специализированные переводчики от Google и Microsoft, правда, проигрывают Gemini Pro
кстати, часть результатов на FLORES-200, который среди 200 языков включает башкирский, казахский, кыргызский и татарский, так что можно залететь в соревнование с этими моделями; присоединяйтесь!
@valuableai
❤6👍5🔥4👏2
вообще эта новость вполне могла быть в любой день, но иллюстрация требует поставить ее в субботу; суть новости - Google выкатил генератор заголовков для новостных сюжетов, и все заверте... я могу восстановить логику событий так, что кто-то решил обучить генератор делать привлекательные (кликабельные) заголовки; как следствие, генератор честно выучился делать кликбейт - то есть максимально "желтые"
я думаю, что люди, которые обучали, не были знакомы со спецификой новостного домена, что еще раз подчеркивает необходимость погружения в область, прежде, чем "палить из всех столов", в смысле обучать самые модные модели на любых доступных данных
@valuableai
я думаю, что люди, которые обучали, не были знакомы со спецификой новостного домена, что еще раз подчеркивает необходимость погружения в область, прежде, чем "палить из всех столов", в смысле обучать самые модные модели на любых доступных данных
@valuableai
🏆4😁2❤1
всем привет, сегодня "Капитанского мостика" не будет, поэтому выкладываю свое декабрьское выступление на митапе Китай AI х Open Source в Иннополисе
@valuableai
@valuableai
👍17🔥2🤝2
This media is not supported in your browser
VIEW IN TELEGRAM
из США приходят интересные новости: частная охранная фирма использует для патрулирования территории ЖК робопса (на видео)
этим в наше время мало кого удивишь, но важно другое - они заявляют, что используют удаленного оператора(заявляется, что из Колумбии) ; в свете недавнего происшествия с роботом Optimus, когда, кажется, оператор снял шлем, после чего робот отключился; также можно вспомнить телеуправляемых роботов-уборщиков
из всего этого вырисовывается некоторая тенденция - в Китае ставят на замену человека на алгоритмы, а в США на замену человека другим человеком - но подешевле, из страны третьего мира
@valuableai
этим в наше время мало кого удивишь, но важно другое - они заявляют, что используют удаленного оператора
из всего этого вырисовывается некоторая тенденция - в Китае ставят на замену человека на алгоритмы, а в США на замену человека другим человеком - но подешевле, из страны третьего мира
@valuableai
💯5🤣4❤2
китайские ученые изобрели искусственную кожу (NRE-skin), которая работает по принципу настоящей - то есть фиксирует на касание, способна различать касание, "боль" (видимо, более сильное касание), а также повреждения; дам ссылку на iXBT еще, т.к. на PNAS - пейволл, что мы, конечно, гневно осуждаем
не знаю, кому как, а мне эта картинка напомнила сцену с рукой из Терминатора 2, меня она в детстве пугала, поэтому ставлю ее под спойлером
как говорится, будущее уже здесь, с добрым утром
@valuableai
не знаю, кому как, а мне эта картинка напомнила сцену с рукой из Терминатора 2, меня она в детстве пугала, поэтому ставлю ее под спойлером
как говорится, будущее уже здесь, с добрым утром
@valuableai
🔥6❤1
пост не про ИИ, а про погружение в детство
я сходил на выставку по Героям 3 в Питере - и будто в начало нулевых вернулся, такой билетик в детство
всем питерцам и гостям северной столицы рекомендую - до 12 января можно успеть
@valuableai
я сходил на выставку по Героям 3 в Питере - и будто в начало нулевых вернулся, такой билетик в детство
всем питерцам и гостям северной столицы рекомендую - до 12 января можно успеть
@valuableai
❤20🤗12👍2😱2🦄1
я долго думал, какой пост сделать на Рождество (всех православных - с праздником!), и решил, что поиск наиболее сбалансированной расстановки в шахматах - достаточно рождественская история
для интересующихся шахматами не является открытием существование шахмат Фишера, они же шахматы-960; второе название они получили, т.к. фигуры в 1 и 8 линиях могут быть расположены по-другому, не так, как в классической расстановке (первая картинка)
Марк Бартелеми из института теоретической физики CNRS (аналог РАН для Франции) сделал оценку всех 960 возможных расстановок и оказалось, что классическая расстановка (№518 по Фишеру) - близка к среднему из всех возможных расстановок - и дает преимущество в 0.30 пешки
в то же время, максимально сбалансированная позиция (№198, вторая картинка) не дает никому преимущества и масимально близка к классической - достаточно поменять местами ферзя и левую ладью (A1 и A8 для белых и черных соотв.)
в статье еще несколько интересных выводов, рекомендую для интересующихся
@valuableai
для интересующихся шахматами не является открытием существование шахмат Фишера, они же шахматы-960; второе название они получили, т.к. фигуры в 1 и 8 линиях могут быть расположены по-другому, не так, как в классической расстановке (первая картинка)
Марк Бартелеми из института теоретической физики CNRS (аналог РАН для Франции) сделал оценку всех 960 возможных расстановок и оказалось, что классическая расстановка (№518 по Фишеру) - близка к среднему из всех возможных расстановок - и дает преимущество в 0.30 пешки
в то же время, максимально сбалансированная позиция (№198, вторая картинка) не дает никому преимущества и масимально близка к классической - достаточно поменять местами ферзя и левую ладью (A1 и A8 для белых и черных соотв.)
в статье еще несколько интересных выводов, рекомендую для интересующихся
@valuableai
🎉10❤8🔥4🤔1
коллеги из института Макса Планка (Германия) выяснили, что LLM, в частности ChatGPT, как наиболее распространенная, стали влиять уже не только на письменную речь: осенью была новость, что половина контента в интернете уже сгенерирована LLM, - но и на устную речь
механизм влияния представлен на первой картинке, на последующих показаны эффекты, которые авторы нашли в YouTube видео и подкастах
само собой, что исследование проделано для английского языка, как самого распространенного в интернете; но было бы интересно, есть ли похожие эффекты в китайском? а в русском? у нас такого широкого распространения LLM пока не получили, но тем не менее, поле для лингвистов не паханое
P.S. на 4ой картинке показано влияние по тематикам, и в смортивной тематике LLM привели к более редкому использованию характерных слов, интересно, почему так?
@valuableai
механизм влияния представлен на первой картинке, на последующих показаны эффекты, которые авторы нашли в YouTube видео и подкастах
само собой, что исследование проделано для английского языка, как самого распространенного в интернете; но было бы интересно, есть ли похожие эффекты в китайском? а в русском? у нас такого широкого распространения LLM пока не получили, но тем не менее, поле для лингвистов не паханое
P.S. на 4ой картинке показано влияние по тематикам, и в смортивной тематике LLM привели к более редкому использованию характерных слов, интересно, почему так?
@valuableai
🔥7
коллеги из Китая выпустили работу, в которой показывают, что визуальное восприятие в мозгу связано с речью
показывают они это довольно затейливым образом: берут МРТ людей, которым показывают картинки, и векторные представления от трех моделей - CLIP (языковая модель, которая умеет понимать картинки), ResNet50 и MoCo v3 (чисто картиночные модели)
дальше сравнивают между собой попарное сходство отдельных картинок путем сравнения обработанных снимков МРТ (для людей) и эмбеддингов (для моделей), а потом ищут корреляцию между матрицами сходства (1 картинка)
так вот оказалось, что сходства, найденные CLIP, больше похожи на сходства здоровых людей (2 картинка), а картиночные модели больше похожи на сходства от людей с инсультом, при котором нарушается связь между визуальной корой и речевым центром мозга (3 картинка)
насколько данная корреляция является случайной - вопрос открытый, но если нет, то философская максима Дерриды, что "весь мир - это текст" обретает под собой физиологическую почву
@valuableai
показывают они это довольно затейливым образом: берут МРТ людей, которым показывают картинки, и векторные представления от трех моделей - CLIP (языковая модель, которая умеет понимать картинки), ResNet50 и MoCo v3 (чисто картиночные модели)
дальше сравнивают между собой попарное сходство отдельных картинок путем сравнения обработанных снимков МРТ (для людей) и эмбеддингов (для моделей), а потом ищут корреляцию между матрицами сходства (1 картинка)
так вот оказалось, что сходства, найденные CLIP, больше похожи на сходства здоровых людей (2 картинка), а картиночные модели больше похожи на сходства от людей с инсультом, при котором нарушается связь между визуальной корой и речевым центром мозга (3 картинка)
насколько данная корреляция является случайной - вопрос открытый, но если нет, то философская максима Дерриды, что "весь мир - это текст" обретает под собой физиологическую почву
@valuableai
🔥5🤔5🤩2🤨1