Forwarded from Малоизвестное интересное
Король ИИ голый, и ему нужно либо трусы надеть, либо крестик снять.
Франсуа Шолле из Google написал правду, которую его компания не может пока открыто признать.
Принципиальная ошибка современной науки и технологий ИИ в том, что они развиваются в условиях, когда:
- мы так и не договорились, что понимаем под ИИ;
- у нас нет способа сравнить ИИ между собой и с интеллектом человека.
В результате
(1) мы разрабатываем нечто, что помогает нам решать конкретные задачи, но, возможно, не является при этом интеллектом: ни подобием человеческого (об определении которого мы не договорились), ни искусственным (поскольку невозможно сделать искусственную сепульку, не договорившись, что такое натуральная сепулька);
(2) мы не в состоянии реально оценивать прогресс в создании ИИ, поскольку:
- не определились с направлением «куда плывем»;
- не договорились, как оценивать достигнутое (сравнивать разные интеллекты по «интеллектуальности»).
В итоге мы подобны морякам, отправившимся в далекое плавание, не договорившись, куда плывут, и не имея средств определения текущего местоположения.
В общем, ситуация тупиковая, не смотря на явный прогресс в прикладном использовании машинного обучения.
Ибо:
- с машинным обучением все ОК;
- а с созданием ИИ полная Ж.
И поэтому существующую парадигму ИИ необходимо кардинально менять.
Все вышесказанное - не просто мой очередной призыв к читателям канала «Малоизвестное интересное». Это преамбула к 60ти страничному «манифесту» On the Measure of Intelligence, на днях опубликованном Франсуа Шнолле – известным исследователем ИИ в компании Google, создателем библиотеки глубокого обучения Keras и соразработчиком фреймворка машинного обучения TensorFlow.
Шнолле сделал то, что не может позволить себе Google: открыто заявить – король ИИ голый, и ему нужно либо трусы надеть, либо крестик снять.
Ну а теперь о главном.
Главная ценность «Манифеста Шолле» не в его смелости и точности формулировок. А в том, что предложена четкая альтернатива, детально сформулировавшая (1) куда плыть и (2) как измерять свое местоположение на пути к цели (как сравнивать создаваемые интеллекты между собой и человеком).
Дочитать, что конкретно предложил Франсуа Шолле - на 90 сек. чтения в моем посте
- на Medium http://bit.do/fji34
- на Яндекс Дзен https://clck.ru/KZuPs
#ИИ
Франсуа Шолле из Google написал правду, которую его компания не может пока открыто признать.
Принципиальная ошибка современной науки и технологий ИИ в том, что они развиваются в условиях, когда:
- мы так и не договорились, что понимаем под ИИ;
- у нас нет способа сравнить ИИ между собой и с интеллектом человека.
В результате
(1) мы разрабатываем нечто, что помогает нам решать конкретные задачи, но, возможно, не является при этом интеллектом: ни подобием человеческого (об определении которого мы не договорились), ни искусственным (поскольку невозможно сделать искусственную сепульку, не договорившись, что такое натуральная сепулька);
(2) мы не в состоянии реально оценивать прогресс в создании ИИ, поскольку:
- не определились с направлением «куда плывем»;
- не договорились, как оценивать достигнутое (сравнивать разные интеллекты по «интеллектуальности»).
В итоге мы подобны морякам, отправившимся в далекое плавание, не договорившись, куда плывут, и не имея средств определения текущего местоположения.
В общем, ситуация тупиковая, не смотря на явный прогресс в прикладном использовании машинного обучения.
Ибо:
- с машинным обучением все ОК;
- а с созданием ИИ полная Ж.
И поэтому существующую парадигму ИИ необходимо кардинально менять.
Все вышесказанное - не просто мой очередной призыв к читателям канала «Малоизвестное интересное». Это преамбула к 60ти страничному «манифесту» On the Measure of Intelligence, на днях опубликованном Франсуа Шнолле – известным исследователем ИИ в компании Google, создателем библиотеки глубокого обучения Keras и соразработчиком фреймворка машинного обучения TensorFlow.
Шнолле сделал то, что не может позволить себе Google: открыто заявить – король ИИ голый, и ему нужно либо трусы надеть, либо крестик снять.
Ну а теперь о главном.
Главная ценность «Манифеста Шолле» не в его смелости и точности формулировок. А в том, что предложена четкая альтернатива, детально сформулировавшая (1) куда плыть и (2) как измерять свое местоположение на пути к цели (как сравнивать создаваемые интеллекты между собой и человеком).
Дочитать, что конкретно предложил Франсуа Шолле - на 90 сек. чтения в моем посте
- на Medium http://bit.do/fji34
- на Яндекс Дзен https://clck.ru/KZuPs
#ИИ
Forwarded from Мастриды
Огромный мастрид с кучей ссылок от блогера Gwern о его опыте обращения с самой передовой на сегодня нейросетью, генерирующей тексты – GPT-3: gwern.net/GPT-3
В статье много теории и куча примеров того, как Гверн сутками экспериментировал с этой программой, заставляя её генерировать рассказы, сказки, анекдоты, писать стихи, фантастику и продолжать книги известных авторов от Данте до Станислава Лема.
Цитата: "GPT-3’s samples are not just close to human level: they are creative, witty, deep, meta, and often beautiful. They demonstrate an ability to handle abstractions, like style parodies, I have not seen in GPT-2 at all. Chatting with GPT-3 feels uncannily like chatting with a human. I was impressed by the results reported in the GPT-3 paper, and after spending a week trying it out, I remain impressed."
Действительно, очень многие примеры выдаваемых нейросетью текстов впечатляют. В ближайшие годы она ещё больше разовьётся и, кажется, наш ждёт эпоха великой литературы, написанной искусственным интеллектом. Думаю, когда-нибудь приглашу GPT-3 в своё шоу "Книжный чел" — это уже звучит не как научная фантастика, а как перспектива ближайшего будущего.
#тренд_мастрид #техно_мастрид #ИИ_мастрид
В статье много теории и куча примеров того, как Гверн сутками экспериментировал с этой программой, заставляя её генерировать рассказы, сказки, анекдоты, писать стихи, фантастику и продолжать книги известных авторов от Данте до Станислава Лема.
Цитата: "GPT-3’s samples are not just close to human level: they are creative, witty, deep, meta, and often beautiful. They demonstrate an ability to handle abstractions, like style parodies, I have not seen in GPT-2 at all. Chatting with GPT-3 feels uncannily like chatting with a human. I was impressed by the results reported in the GPT-3 paper, and after spending a week trying it out, I remain impressed."
Действительно, очень многие примеры выдаваемых нейросетью текстов впечатляют. В ближайшие годы она ещё больше разовьётся и, кажется, наш ждёт эпоха великой литературы, написанной искусственным интеллектом. Думаю, когда-нибудь приглашу GPT-3 в своё шоу "Книжный чел" — это уже звучит не как научная фантастика, а как перспектива ближайшего будущего.
#тренд_мастрид #техно_мастрид #ИИ_мастрид
gwern.net
GPT-3 Creative Fiction
Creative writing by OpenAI’s GPT-3 model, demonstrating poetry, dialogue, puns, literary parodies, and storytelling. Plus advice on effective GPT-3 prompt programming & avoiding common errors.
Forwarded from Малоизвестное интересное
The Great AI Reckoning.
Глубокое обучение построило дивный новый мир, но он трещит по швам.
Так называется новый спецотчет IEEE - крупнейшей в мире ассоциации технических специалистов (423 тыс. членов из 160 стран).
Название таит в себе важный смысл. Оно обыгрывает неоднозначность английского слова reckoning – расчет: в смысле вычисление и расплата.
• Вычислительные ресурсы, требуемые для развития ИИ на основе глубокого обучения, становятся неоправданно большими.
• Расплатой за выбор глубокого обучения в качестве магистрального пути развития ИИ становится нарастающее ощущение приближающегося тупика.
Спецотчет состоит из 8 глав, понятно написанных простым языком.
1) Бурное прошлое и неопределенное будущее ИИ. Есть ли выход из цикла взлетов и падений ИИ? (8 мин чтения)
2) Как работает глубокое обучение. Внутри нейронных сетей, на которых основан современный ИИ (3 мин чтения)
3) Говорят эксперты по ИИ: памятные цитаты из репортажей IEEE об ИИ (4 мин чтения)
4) Как DeepMind переизобретает робота. Покорив Го и фолдинг белков, компания переключилась на реально трудную задачу (14 мин чтения)
5) 7 причин, по которым ИИ терпят неудачи. Нейронные сети могут быть катастрофически хрупкими, забывчивыми и удивительно слабыми в математике (8 мин чтения)
6) Неудобная правда об ИИ. ИИ не превзойдет человеческий интеллект в обозримом будущем (3 мин чтения)
7) Уменьшение отдачи от глубокого обучения. Стоимость улучшений становится непосильной (10 мин чтения)
8) Как армия США превращает роботов в командных игроков. Инженеры борются с ограничениями возможностей глубокого обучения боевых ботов (11 мин чтения)
В качестве тизера взгляните на эту аналитику из спецотчета.
✔️ Экстраполируя достижения последних лет, можно предположить, что к 2025 году уровень ошибок в лучших системах глубокого обучения, предназначенных для распознавания объектов на основе набора данных ImageNet, должен быть снижен до 5% см. рис.
✔️ Но вычислительные ресурсы и энергия, необходимые для подготовки таких систем, будут огромными, что приведет к выбросу такого количества углекислого газа, какое Нью-Йорк производит за месяц см. рис.
От себя добавлю.
Главную заморочку в развитии ИИ можно проиллюстрировать приложенным рисунком из книги Брайана Смита «Reckoning and Judgment: The Promise of AI».
• В правой-нижней части рисунка сгруппированы люди, разбирающиеся в искусственном интеллекте, но ни черта не понимающие в человеческом разуме (Курцвейл и Бостром – типичные примеры).
• В левой-верхней части - люди, прекрасно разбирающиеся в человеческом разуме, но ни черта не понимающие в искусственном интеллекте (в качестве примера, Кант с Витгенштейном и слов то таких не знали).
• Между этими двумя полюсами в размытой темной дуге находятся многие тысячи идеологов и разработчиков в области ИИ.
• Это и есть главная проблема.
- Понять, как устроен и работает «интеллект», невозможно двигаясь на показанном графике лишь только направо или только наверх.
- Для реального прорыва нужны люди в правой-верхней части рисунка… И много таких людей.
#ИИ #AGI
P.S. Каналу «Малоизвестное интересное» 5 лет. Не думал, что так надолго задержусь в этом деле. Но пока в правой-верхней части рисунка людей непростительно мало, буду продолжать писать про это (ебж) 😊
Глубокое обучение построило дивный новый мир, но он трещит по швам.
Так называется новый спецотчет IEEE - крупнейшей в мире ассоциации технических специалистов (423 тыс. членов из 160 стран).
Название таит в себе важный смысл. Оно обыгрывает неоднозначность английского слова reckoning – расчет: в смысле вычисление и расплата.
• Вычислительные ресурсы, требуемые для развития ИИ на основе глубокого обучения, становятся неоправданно большими.
• Расплатой за выбор глубокого обучения в качестве магистрального пути развития ИИ становится нарастающее ощущение приближающегося тупика.
Спецотчет состоит из 8 глав, понятно написанных простым языком.
1) Бурное прошлое и неопределенное будущее ИИ. Есть ли выход из цикла взлетов и падений ИИ? (8 мин чтения)
2) Как работает глубокое обучение. Внутри нейронных сетей, на которых основан современный ИИ (3 мин чтения)
3) Говорят эксперты по ИИ: памятные цитаты из репортажей IEEE об ИИ (4 мин чтения)
4) Как DeepMind переизобретает робота. Покорив Го и фолдинг белков, компания переключилась на реально трудную задачу (14 мин чтения)
5) 7 причин, по которым ИИ терпят неудачи. Нейронные сети могут быть катастрофически хрупкими, забывчивыми и удивительно слабыми в математике (8 мин чтения)
6) Неудобная правда об ИИ. ИИ не превзойдет человеческий интеллект в обозримом будущем (3 мин чтения)
7) Уменьшение отдачи от глубокого обучения. Стоимость улучшений становится непосильной (10 мин чтения)
8) Как армия США превращает роботов в командных игроков. Инженеры борются с ограничениями возможностей глубокого обучения боевых ботов (11 мин чтения)
В качестве тизера взгляните на эту аналитику из спецотчета.
✔️ Экстраполируя достижения последних лет, можно предположить, что к 2025 году уровень ошибок в лучших системах глубокого обучения, предназначенных для распознавания объектов на основе набора данных ImageNet, должен быть снижен до 5% см. рис.
✔️ Но вычислительные ресурсы и энергия, необходимые для подготовки таких систем, будут огромными, что приведет к выбросу такого количества углекислого газа, какое Нью-Йорк производит за месяц см. рис.
От себя добавлю.
Главную заморочку в развитии ИИ можно проиллюстрировать приложенным рисунком из книги Брайана Смита «Reckoning and Judgment: The Promise of AI».
• В правой-нижней части рисунка сгруппированы люди, разбирающиеся в искусственном интеллекте, но ни черта не понимающие в человеческом разуме (Курцвейл и Бостром – типичные примеры).
• В левой-верхней части - люди, прекрасно разбирающиеся в человеческом разуме, но ни черта не понимающие в искусственном интеллекте (в качестве примера, Кант с Витгенштейном и слов то таких не знали).
• Между этими двумя полюсами в размытой темной дуге находятся многие тысячи идеологов и разработчиков в области ИИ.
• Это и есть главная проблема.
- Понять, как устроен и работает «интеллект», невозможно двигаясь на показанном графике лишь только направо или только наверх.
- Для реального прорыва нужны люди в правой-верхней части рисунка… И много таких людей.
#ИИ #AGI
P.S. Каналу «Малоизвестное интересное» 5 лет. Не думал, что так надолго задержусь в этом деле. Но пока в правой-верхней части рисунка людей непростительно мало, буду продолжать писать про это (ебж) 😊
