Anthropic’s mother of all risk factors
— статья Financial Times

Насчет американских ИИ-гигантов, внезапно перед грядущим первым мега-IPO в отрасли обнаруживших, что их детище способно убить всех человеков, надо понимать вот что. Никто, никакая партия, никакое движение, не выступают за максимально строгое регулирование и жёсткие стандарты так яростно, как крупнейшие компании на рынке, ибо нет более эффективного средства выдавить всех мелких (да и средних) конкурентов, чем нагрузив их максимальным числом требований безопасности. У крупных компаний есть возможности лоббировать нужные им стандарты (в частности, делать их внутренние технические процессы обязательными). Крупные компании не любят менять устоявшиеся процессы, и им очень не нравится мелкота, которая приносит что-то новое.

Крупным компаниям гораздо проще выстроить долгосрочные коррупционные связи с проверяющими. В США редко дают крупные взятки напрямую; там коррупция часто принимает форму найма высокопоставленных отставных чиновников и генералов на разнообразные синекуры в крупных компаниях-поставщиках. Сама такая форма делает особо ценными долгосрочные отношения с избранными крупнейшими контракторами. (Вот, например, работа, статистически подтверждающая связь между "снисходительностью" патентных органов к патентным заявкам и последующим наймом патентных чиновников самими заявителями патентов. Или вот: фирмы, нанимающие бывших членов комитетов Конгресса, связанных с налоговой политикой, значительно снижают вероятность налоговых проверок самих себя). Уж лучше бы сразу деньгами брали, ей-ей, так хотя бы конкуренции было бы побольше.

Крупным компаниям гораздо проще готовить тонны отчётных бумажек, плавать в морях регулирующих документов и тому подобное. Список можно продолжать.

"Теории захвата" регулирующих органов крупным бизнесом, берущей начало от основополагающей работы Стиглера, уже больше полувека. Вот краткий современный обзор.

...

Всё это не аргумент против регулирования как такового и не против регулирования ИИ в частности. Но когда две крупнейшие компании на рынке начинают сыпать апокалипсическими прогнозами и требовать всё строго зарегулировать, стоит насторожиться. А если это происходит за месяц перед IPO Антропика, когда компании критически важно доказать, что она действительно стоит $2 трлн, то есть что будущие прибыли оправдают эту фантастическую оценку - то тут «неприлично подозревать, когда вполне уверен».

Ни ОпенИИ, ни Антропик, ни кто-либо ещё не требует запретить им самим создавать новые мощные модели. Их требование - запрещать более слабые открытые китайские модели (которые вряд ли останутся открытыми, если станут действительно мощными - просто это будет слишком дорого). Ну камон.

Я не считаю, что к опасениям гигантов стоит относиться пренебрежительно. Но чтобы спасти человечество, надо начинать с малого. Например, обязать все компании с капитализацией более одного триллиона долларов, занятые разработкой ИИ, компенсировать весь ущерб, нанесённый с использованием их моделей. Денег у них достаточно. Надеюсь, Маск, Альтман и Амадео будут рады такому прогрессу на пути защиты цивилизации.

Дональд Трамп анонсировал создание «ИИ-войск» в США. Совсем скоро он выберет для них царя. Подать заявку на командующего смогут только люди с высоким интеллектом, как у Трампа. @banksta

да ёбан-бонан…
источник: the independent