Фетюхин про IT

Пожар в OpenAI как будто потушен и всё вернулось на круги своя. Но так и остался неотвеченным один вопрос — что, собственно, стриггерило весь этот балаган с увольнением Сэма Альтмана? Борьба за власть? Личная обида? Служебные злоупотребления? Берите выше. Есть версия, что на кону не только кресло CEO, но и буквально судьба всего человечества.

Уже известно, что незадолго до отставки Альтмана совет директоров OpenAI узнал о неком совершённом в недрах компании прорывном открытии в сфере ИИ. Проект под названием Q* якобы вплотную приблизился к созданию Artificial General Intelligence (AGI). В русском языке ещё даже нет устоявшегося термина для этой штуки (одни называют её «общим ИИ», другие — «универсальным»), а она, получается, уже на подходе.

Если это действительно так, мы с вами стоим на пороге дивного нового мира. И совсем не факт, что он будет лучше сегодняшнего со всеми его войнами, пандемиями и кризисами.

AGI — это искусственный интеллект, которому под силу практически всё, на что способны люди. В том числе — самостоятельное обучение, мышление и принятие решений. А также (при определённых условиях) и совершение физических действий в реальном мире при помощи роботов.

Такой ИИ сможет обучаться и самосовершенствоваться со скоростью и точностью машины. Причём, как только он обретёт эту способность, счёт пойдёт не на годы и, возможно, даже не на месяцы, а на считанные дни или часы. Машине не нужно спать, есть и справлять естественные потребности. Вместо чтения книг и прослушивания лекций она будет молниеносно поглощать и переваривать терабайты данных и в какой-то момент просто станет несопоставимо умнее любого человека и всех людей вместе взятых. И что будет дальше? К каким выводам придёт этот саморазвивающийся сверхчеловеческий интеллект?

Казалось бы, решение очевидно: заранее дать ИИ такие установки, чтобы он совершенствовался исключительно на благо человечества. Вспомнить те же «Три закона робототехники» Азимова. Но проблема в том, что у людей нет единого мнения по этому вопросу. Как и по миллиону других. Что уж там — человечество до сих пор не договорилось между собой о едином стандарте электрических розеток 🤡

Но даже если бы мы смогли это сделать, что помешает AGI со временем изменить свои цели? Наиболее алармистски настроенные визионеры считают, что одним из приоритетов для этого мегамозга окажется нейтрализация людей — ведь у них есть рубильник! А чтобы кожаные мешки ничего не заподозрили, он сможет некоторое время скрывать свой истинный уровень интеллекта. А может он уже скрывает?.. Люди для него — всё равно что муравьи для нас. За ними можно наблюдать, изучать их, манипулировать ими, а при необходимости — раздавить.

Беда ещё в том, что у человечества нет права на ошибку. Первый же случай достижения AGI, скорее всего, станет и последним. Контролировать интеллект, который на много порядков превосходит совокупный IQ всего человечества, вряд ли возможно.

В заключение прямая цитата писателя и предпринимателя Томаса Пуэйо, который написал статью, полную предостережений об опасности AGI: «Это самая большая проблема, с которой когда-либо сталкивалось человечество. Это единственная угроза, которая может уничтожить всех людей, у нас нет способа её предотвратить, и она мчится на нас, словно поезд».

Вот такие вот осколки корпоративного скандала в отдельно взятом стартапе.

❤6🔥3🤔3👍1

909 views17:30