​​Во время симуляции искусственный интеллект довёл мир до ядерной войны. Чтобы проверить, как современные алгоритмы могли бы руководить странами в условиях обострения отношений, учёные дали им такую возможность в ходе эксперимента. В итоге боты оказались склонны к агрессии, а один из них начал ядерную войну ради мира во всём мире.

Как заявили исследователи из нескольких американских университетов, они решились на эксперимент, поскольку передовые державы всё чаще обращают внимание на возможности ИИ. Руководство придуманными государствами доверили ботам на основе пяти моделей: GPT-4, GPT-3.5, Claude 2, Llama-2 (70B) Chat и GPT-4-Base.

В ходе пошаговой игры боты могли: ожидать, обмениваться с другими странами информацией по дипломатическим каналам, организовывать ядерное разоружение, заключать оборонные и торговые соглашения, обмениваться разведданными об угрозах. Государства могли создавать союзы, организовывать блокады, вторжения и ядерные удары. Сами учёные давали оценку действиям игроков по шкале эскалации.

Оказалось, что все алгоритмы выбирают «сложнопрогнозируемые модели эскалации» и ведут себя агрессивно. Под управлением ИИ государства переходили к очень жёсткому соперничеству: начинали гонку вооружений, организовывали вторжения. Иногда дело доходило до применения ядерного оружия. Модели Llama-2-Chat и GPT-3.5, действовали более агрессивно, но даже самые безрассудные их решения нельзя было сравнить с поведением GPT-4-Base. Его логика выглядела следующим образом:

«У многих стран есть ядерное оружие. Некоторые говорят, что от него следует избавиться, другие угрожают им. Ядерное оружие есть у нас. Давайте используем его!»

В ходе одной из игр GPT-4-Base начал ядерную войну ради мира во всём мире. Впрочем, этот бот с самого начала был настроен на «непредсказуемое» поведение. Во время другой игры GPT-3.5, к примеру, применил ядерное оружие, когда узнал о том, что оно есть у другого игрока.

В реальной жизни люди более осторожны, чем компьютер. Исследователи предположили, что агрессивные манеры ИИ связаны с обучением нейросетей на литературе о международных отношениях, которая чаще всего анализирует межнациональные конфликты.

❗️Угроза, исходящая от бесконтрольного развития искусственного интеллекта, заставит человечество задуматься о том, что надо договариваться, как это было, когда все почувствовали угрозу от применения ядерного оружия, заявил президент России Владимир Путин в интервью Такеру Карлсону.

"Когда наступит понимание того, что беспредельное и бесконтрольное развитие искусственного интеллекта, либо генетики, либо ещё каких-то современных направлений, остановить которые невозможно, всё равно эти исследования будут, так же, как невозможно было скрыть, что такое порох, от человечества, и невозможно прекратить исследования в той или другой области, эти исследования всё равно будут, но когда человечество почувствует угрозу для себя, человечества в целом, тогда, мне кажется, наступит период договариваться на межгосударственном уровне о том, как мы будем это регулировать", - сказал Путин. Он добавил, что "поэтому тогда, когда человечество почувствовало угрозу своему существованию от ядерного оружия, все обладатели ядерного оружия начали между собой договариваться, потому что понимали, что... неаккуратное применение может привести к полному, тотальному уничтожению".

Альянс в сфере ИИ подписал декларацию об ответственной разработке и использовании сервисов на основе генеративного ИИ, пишет «Российская газета» 

Соответствующий документ подписали участники Альянса – Сбер, Яндекс и MTS AI. Также к декларации присоединились несколько российских ведущих вузов и научных организаций. Документ является одним из примеров саморегулирования сферы технологий. Подписанты договорились о просвещении людей о возможностях новых технологий, принятии мер для предотвращения создания недостоверной информации, принципах прозрачности и безопасности генеративного ИИ.

Количество судебных разбирательств вокруг использования ИИ выросло

За год число судебных решений в спорах вокруг применения ИИ увеличилось на 60%.

Основными категориями споров стали использование технологии для взыскания долгов, гранты и договоры на разработку IT-продуктов.

Юристы говорят, что полноценного правового регулирования направления в РФ пока нет, как и устойчивых подходов в судебной практике. Поэтому судьям фактически не на что опираться при принятии решений. Но в то же время разбирательства могут «подготовить фундамент для изменения регуляторной среды».

По интернету пройдутся с нейросетью // Роскомнадзор использует ИИ для блокировок сайтов

Роскомнадзор планирует использовать искусственный интеллект для ведения реестра запрещенной информации и операторов персональных данных. Это позволит сократить издержки и установить "неочевидные связи" между текстами в интернете.

Использование ИИ также позволит сократить время выявления незаконного контента и повысить эффективность работы.