Давненько мы ничего не слышали от Дарио Амодеи, главы Anthropic...
О том, что ИИ развивается слишком быстро и может быть опасен, говорят уже давно. Но Амодеи в своей публикации приводит конкретные цифры и предлагает конкретный план.
Вероятность катастрофического сценария для человечества в ближайшие 10 лет они оценивают выше 10%. И даже Сэм Альтман говорит, что такой риск для него неприемлем.
Амодеи предлагает три шага.
1️⃣ - независимые эксперты внутри ИИ-компаний, которые смогут проверять безопасность моделей и получать информацию об инцидентах.
2️⃣ - общие стандарты безопасности между компаниями из демократических стран и договорённости о темпах развития.
3️⃣ - международное сотрудничество, в том числе с государствами, которые не разделяют западные правила игры.
Третий этап будет ну очень сложным. Особенно учитывая, что между США и Китаем в сфере ИИ уже фактически идёт своя холодная война: страны конкурируют за модели, чипы, вычислительные мощности и технологическое лидерство.
Поэтому договориться о правилах безопасности между конкурентами - задача совсем другого уровня 😅. Можно сколько угодно согласовывать правила внутри одного лагеря, но если второй продолжит гонку, торможение станет неэффективным.
О том, что ИИ развивается слишком быстро и может быть опасен, говорят уже давно. Но Амодеи в своей публикации приводит конкретные цифры и предлагает конкретный план.
Вероятность катастрофического сценария для человечества в ближайшие 10 лет они оценивают выше 10%. И даже Сэм Альтман говорит, что такой риск для него неприемлем.
Амодеи предлагает три шага.
Третий этап будет ну очень сложным. Особенно учитывая, что между США и Китаем в сфере ИИ уже фактически идёт своя холодная война: страны конкурируют за модели, чипы, вычислительные мощности и технологическое лидерство.
Поэтому договориться о правилах безопасности между конкурентами - задача совсем другого уровня 😅. Можно сколько угодно согласовывать правила внутри одного лагеря, но если второй продолжит гонку, торможение станет неэффективным.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3💯3
Технологическая компания из китайского города Линьи решила показать, как работает их новый дрон для мытья солнечных панелей. Но вместо панели помыли... местную бездомную собаку 🐕
На видео дрон поливает собаку водой, а та стоит спокойно и, похоже, ей это даже нравится. Компания хотела показать, что устройство дозирует воду точно и мягко - не повредит ни панель, ни живое существо 🤗
Видео, конечно, вызвало смешанную реакцию: кто-то оценил креатив, кто-то задумался об этике. Но внимание к дрону привлекли, а это, скорее всего, и было целью :)
На видео дрон поливает собаку водой, а та стоит спокойно и, похоже, ей это даже нравится. Компания хотела показать, что устройство дозирует воду точно и мягко - не повредит ни панель, ни живое существо 🤗
Видео, конечно, вызвало смешанную реакцию: кто-то оценил креатив, кто-то задумался об этике. Но внимание к дрону привлекли, а это, скорее всего, и было целью :)
🔥1😁1