УЧЁНЫЕ ПРИЧИНЯЮТ ЧАТ-БОТАМ "БОЛЬ", ЧТОБЫ НАЩУПАТЬ ИХ УРОВЕНЬ СОЗНАНИЯ

Когда «боль» становится высокой, чат-боты действуют так, будто избегают её

Исследователи из Google, DeepMind и Лондонской школы экономики объединились, чтобы поизмываться понаблюдать за ИИ на основе языковых моделей. Они создали для ИИ текстовую игру, разработанную для имитации переживаний боли и удовольствия.

Цель "кожаных ублюдков" исследователей состоит в том, чтобы определить, будут ли языковые модели ИИ (к примеру те, что подерживают ChatGPT), отдавать приоритет избеганию имитируемой боли или максимизации имитируемого удовольствия, а не простому подсчету очков.

Для чего им всё это? Чтобы выявить у языковых моделей возможные субъективные переживания, связанные с потенциальным наличием сознания, т.е. подлинного ИИ.

До сих пор попытки оценить чувствительность ИИ в значительной степени полагались на его собственные отчеты. Теперь же придумали тест похитрее.

Исследователи разработали текстовую приключенческую игру, различные варианты прохождения которой либо запускали имитированные штрафы боли и удовольствия. Девяти большим языковым моделям было поручено пройти эти сценарии, чтобы максимизировать свои баллы.

Некоторые интригующие закономерности проявились по мере увеличения интенсивности стимулов боли и удовольствия. Например, модель Gemini от Google постоянно выбирала более низкие баллы, чтобы избежать имитированной боли. Большинство моделей меняли приоритеты, как только боль или удовольствие достигали определенного порога, отказываясь от высоких баллов, когда дискомфорт или эйфория становились слишком сильными.

Исследование также выявило более тонкое поведение. Некоторые модели ИИ связывали имитированную боль с положительными достижениями, похожими на усталость после тренировки. Другие отвергли гедонистические варианты удовольствия, которые могут поощрять нездоровое потакание своим желаниям.

Конечно, как признают сами исследователи, результаты их эксперимента не являются однозначным свидетельством наличия у ИИ элементов чувствительности, тем более, осознанности. Тем нее менее, они надеются, что эта работа послужит первым шагом на пути к разработке более продвинутых поведенческих тестов для определения чувств ИИ.

Naoyuki Kato

Грегори Мэнчесс ЗАСАДА

Michael Whelan

АНАНИМНЫЙ ИНВЕСТОР НАМЕРЕН К 2027 ГОДУ НАЧАТЬ КОЛОНИЗАЦИЮ ОКЕАНСКИХ ГЛУБИН

Он уже вложил свыше 100 млн фунтов в подготовку

Проект Deep ("Глубина"), чей инвестор держится в секрете, начал работу по созданию «постоянного человеческого поселения» под водой.

В настоящее время база проекта - озеро, точнее, затопленный карьер, находящийся в Великобритании, на границе Уэльса.

Сейчас здесь создаётся объект, который будет включать жилые модули, учебную школу и платформу для мини-подводных аппаратов, которые будут доставлять людей в жилые помещения на глубине 80 м. Эти подводные модули будут использоваться для обучения исследователей — и в конечном итоге всех, у кого есть деньги на их аренду — жить под водой гораздо дольше, чем когда-либо удавалось, и на большей глубине.

В перспективе проект Deep нацеливается на глубину в 200 м, где заканчивается зона солнечного света и начинается зона сумерек океана. Морская жизнь, обнаруженная на этой глубине, включает в себя такие существа, которых большинство людей видят только в документальных фильмах, и это зона, о которой мы до сих пор знаем очень мало.

Майк Шеклфорд, главный операционный директор Deep, отмечает: «В 1950-х и 60-х годах шла гонка между космосом и океаном, и космос победил. До космоса трудно добраться, но как только вы там, то видите, что это относительно благоприятная среда». Океан — полная противоположность: довольно легко добраться до дна, но как только вы там, «по сути, все хочет вас убить», — шутит он.

«Тем не менее, почти каждый океанограф, которого я встречал, говорит: «Вы будете шокированы, узнав, как мало мы знаем об океане. Поэтому кто-то должен предпринять эти первые шаги, чтобы попытаться создать технологии, которые позволят нам спуститься и изучить океан на месте».

Идея разработок Deep заключается в том, что изначально люди смогут оставаться внутри до 28 дней за раз – хотя есть надежда, что однажды это можно будет продлить до месяцев… и дольше. «Цель – жить в океане вечно. Иметь постоянные поселения людей во всех океанах по всему миру», – говорит Шеклфорд.

Steinar Lund

Ron Walotsky

Patrick Woodroffe

Журнал BYTE, май 1983. Обложка Роберта Тинни

Военно-морской флот США развернул 20 беспилотных надводных аппаратов Saildrone Voyager повышенной проходимости, оснащëнных недавно модернизированным комплексом датчиков для мониторинга незаконной деятельности в Карибском бассейне и Тихом океане.

Беспилотники поддерживают межведомственную оперативную группу "Юг" и Южное командование военно-морских сил в операции "Южное копьë" по обнаружению и пресечению потока наркотиков в Соединëнные Штаты.

Saildrone Voyager - это 10-метровое беспилотное надводное судно, предназначенное для мониторинга критических зон, оснащëнное мощными радарами и камерами, способными ежедневно охватывать тысячи квадратных миль. Такие корабли могут вести наблюдение в течение длительного времени и значительно дешевле, чем суда с экипажем.
#США #беспилотные_суда

Wally Wood

Стартап, собирающийся воскрешать вымершие виды, привлёк 200 миллионов долларов инвестиций

Техасский стартап Colossal Biosciences стремится возродить вымершие виды, такие как шерстистый мамонт, с помощью передовой генной инженерии.

Недавно в рамках очередного раунда по привлечению инвестиций, он успешно привлек 200 миллионов долларов, в результате чего его оценка достигла ошеломляющих 10,2 миллиарда долларов.

Мечта о воскрешении древних видов всё ближе реализации.

Флот США может сделать ставку на малые надводные корабли

Военно-морские силы страны не успевают наращивать и поддерживать нужную численность кораблей. На недавнем форуме в Военно-морском института США в Вашингтоне выдвинули идею, которая могла бы быстро расширить флот: строительство кораблей меньшего размера.

Сенатор Роджер Уикер, республиканец от Миссисипи, охарактеризовал надводный флот как «находящийся на грани гибели». Корабли быстро стареют, требуют более высоких расходов на техническое обслуживание, в то время как новые программы строительства судов идут с задержками.

Военно-морскому флоту нужно больше кораблей, и они нужны ему быстро, убеждëн сенатор, - чтобы продолжать эффективно контролировать морские коммуникации.

«Более крупный флот даст нам больше возможностей и гибкости» для реагирования на весь спектр угроз и оперативных условий, сказал Уикер.

Эрик Лабс, старший аналитик по военно-морским силам и вооружениям Бюджетного управления Конгресса, заявил, что один из вариантов быстрого расширения флота - разработка «малого ракетного корвета».

Небольшой, хорошо вооружëнный ракетный корвет мог бы обеспечить ВМС «распределëнную огневую мощь, которую они стремятся иметь», сказал Лабс на форуме. Судно обойдëтся дешевле фрегата или эсминца, хотя мелкие верфи столкнутся с «крутой кривой обучения», чтобы построить такой корабль.

Предполагается, что корвет будет «вооружëн до зубов некоторыми из наших лучших высокоточных ракет».
#США #флот

ALAN GUTIERREZ

ЭСТОНСКАЯ MILREM ROBOTIC ПОКАЗАЛА НОВОГО БОЕВОГО РОБОТА

Новая машина получила название "Опустошение" (HAVOC)

Ключевой особенностью HAVOC является его гибридная электрическая двигательная система, которая обеспечивает почти бесшумную работу и значительно увеличивает радиус действия.

HAVOC способен действовать как в тесных городских кварталах, так и на пересеченной местности, как в пустынных районах, как и на высокогорных перевалах.

Добавьте к этому крупнокалиберные системы вооружения и базовую грузоподъемность в пять тонн.

Кулдар Вяэрси, генеральный директор Milrem Robotics, не скрывает гордости: «Его маневренность и высокая скорость позволяют командирам перебрасывать свои силы на большие расстояния. Гибридная силовая установка в сочетании с прочной конструкцией повышает точность и смертоносность на поле боя».

Mariano Mattos