Машины прошли тест Тьюринга.

В ответ на мой предыдущий пост куча людей написали, что они не увидели бы разницы, если бы я не сказал. Хотя лично для меня проблемы нейросетевого текста очевидны, вполне возможно, что:

1. Я сам пишу так же плохо. Многие говорили мне, что им нравится, как я пишу, но в целом отсутствие роста аудитории за годы ведения блогов вполне может говорить о моём неумении в тексты. Тогда не удивительно, как со мной спутали простое перемножение матриц.

2. Люди в целом читают мало книг и хороших текстов, и поэтому не видят косяков, особенно стилистических. Очень вероятный сценарий, хотя среди тех, кто говорил мне об отсутствии отличий, были и читающие.

3. Проблем нет, я их выдумал, а грамотные люди, которые умеют создавать хорошие тексты, действительно иногда пишут так, как сделала нейросеть.

Разбираться в этом детально я сейчас не готов, но важно отметить то, что люди всерьёз перепутали человека и машину. Поэтому — да — мы прямо сейчас наблюдаем момент, когда компьютер по-настоящему прошёл тест Тьюринга. Не по каким-то формальностям, а именно с таким результатом, который, вероятно, был заложен в идею теста его создателем.

Несколько лет назад я размышлял о том, что формально даже не любой (психически здоровый и взрослый) человек пройдёт тест Тьюринга, потому что он может быть глуп до неспособности внятно выстраивать слова в речь. Не шучу: присутствовали ли вы, например, в родительских чатах школы или в чатах жильцов дома? В любых не тематических сообществах случайных людей всегда есть персонажи, чьи сообщения похожи на что-то среднее между цепями Маркова и сочинениями двоечника первоклассника.

С точки зрения некоторой формальности нейросети тоже не пройдут тест: если человек не будет стараться выдать себя за компьютер, и я пообщаюсь 5 минут с ним и с GPT-4, то я сразу установлю, где кто.

Но с практической точки зрения представим такую формулировку: "Среднестатистический человек разговаривает со среднестатистическим человеком и с нейросетью, сможет ли он надёжно понять, где кто?". Повторим эксперимент много раз. Я уверен, что точность будет не сильно выше, чем угадывание. Так что чисто практически рубеж преодолён: компьютер официально может выдать себя в разговоре за человека так, что это будет непонятно большинству обычных людей.

Ещё 5 лет назад я думал, что это наступит в моей глубокой старости. Но вот мы здесь. Наше мышление — по крайней мере в части убедительной имитации — оказалось очень большой, но конечной китайской комнатой. Вспоминается сцена из второго сезона Westworld, когда машина пыталась повторить сознание директора компании Джеймса Делоса и постоянно терпела неудачу, пока, наконец, не нашла ключ. Там персонаж — аватар искусственного интеллекта — даёт героям небольшую книгу с полным описанием личности Делоса: "10247 строчек программного кода".

Моя (не)любимая рубрика "Мудачьё паркуется во дворах". Смотрите — на тротуаре выезд для колясок, рядом с ним лежат камни. Можно было подумать, что эти камни тонко намекают не парковаться напротив выезда, но нет — они просто создают неприятную помеху их величеству на мерседесе. Причем, судя по тому, как это корыто замело, остановился явно не на 5 минут забежать в магазин. Почему-то я не удивлён увидеть одинаковые цифры в номере.

В 1996 году шведский программист Даниэль Стенберг опубликовал первую версию консольной программы для работы с удалёнными ресурсами (URL). Точнее, технически это была не первая версия, но первая под новым названием — cURL.

Тогда, наверное, мало кто мог подумать, что обращаться по URL-адресам, отправлять запросы и скачивать файлы станет настолько востребованным. Сегодня cURL (если точнее, то libcurl) присутствует фактически на любом устройстве, подключённом к интернету, а неделю назад Стенберг отпраздновал 25-летие своего проекта.

На Хабре очень интересный перевод авторского пересказа событий за все эти годы. Даниэлю было 27 лет, когда он написал простенькую консольную утилиту, которой пользовался едва ли десяток людей. А сейчас ему 52, в программе уже 155 тысяч строк кода, а пользуются ей миллиарды (хоть даже и не знают об этом). За это время он женился, сменил кучу работ, завёл двоих детей, заслужил титул второго лучшего разработчика Швеции и даже косвенно поучаствовал в посадке зонда на Марс (о чём в его профиле на Гитхабе есть специальная плашка). Стенберг даже получал угрозы убийством из-за того, что его софт применялся хакерами в атаках и краже денег.

Вот как вышло — шалость, можно сказать, удалась. Простенький хобби-проект молодого студента стал одним из столпов, на которых зиждется информационная эра. Не сказать, что в cURL есть что-то особенное, просто так вышло, что именно его автор первым задумался о необходимости удобной коммуникации с серверами в сети. Не написал бы он, написал бы кто-нибудь другой. Что не умаляет его заслуг и аккуратного подхода к разработке и улучшению программы на протяжении стольких лет.

Кто знает, может быть, кто-нибудь из вас сейчас сидит и пишет маленький хобби-проект, которым через четверть века станет пользоваться весь мир?

#dev

Некоторые люди всерьёз обрадовались моему вероятному переходу на ролики. Но на самом деле тот же ВК ограничивает Клипы длиной до каких-то жалких 3 минут. Этого хватит на сценку с туповатой шуткой для малолетних, но не хватит на какое-то вменяемое рассуждение. Так что полностью тексты я не заменю, пока не выйду на пенсию и не получу достаточно свободного времени для заведения личного видеоблога в формате ютуба, с длинными роликами. Но, возможно, стоит иногда постить вместо текстов короткие видео для разбавления? Что думаете?

По понятным причинам исключаю вариант "Отдельный канал для видео". Аудитории и так очень мало, разделять её было бы неправильно, в моих масштабах это верный путь к блогерскому самоубийству.

Элиезер Юдковский — тот самый рационалист, lesswrong, автор "Гарри Поттер и рациональное мышление" — написал в Time статью о критически высокой опасности ИИ. Вообще, Юдковский один из популяризаторов термина AGI (Artificial general intelligence), с которым сейчас начинают сравнивать новые нейросети GPT-3.5 и GPT-4. Он призывает не просто остановить обучение нейросетей и выключить существующие кластеры, но и взять этот вопрос под строжайший контроль, вплоть до ракетного удара по датацентрам, которые нарушают запрет.

На обывательском уровне мы считаем, что у ИИ будет сознание и мотивация. Так, например, Скайнет в Терминаторе или ИИ в Матрице хотели выиграть у человечества гонку за выживание, и поэтому воевали. Но в реальности всё (будет) не так. Юдковский приводит два примера. Один в этой статье, другой раньше, потому что он вообще много об этом писал (так то он 20 лет занимается исследованиями ИИ).

Представьте, что вы дали ИИ задачу оптимизировать производство скрепок. По идее мы ожидаем, что он придумает, как преобразовать процессы работы станков на заводе. Но ИИ в пределе может прийти к идее превращать все доступные вещества в материал для скрепок, разрушив, при этом, цивилизацию. Для людей это означало бы нарушение важных конечных ценностей, таких как жизнь, любовь, развитие. Но ИИ не будет менять свои действия, так как это изменение приведет к уменьшению количества скрепок в будущем, что противоречит его текущей цели. Он имеет одну простую цель — максимизировать число скрепок; человеческая жизнь, общество, радость и т.д. не заданы в качестве целей. Это называют Alignment Problem — несоответствие задачи в голове человека такой же задаче в "голове" ИИ. Для ИИ уменьшение количества больных раком может быть достигнуто уменьшением количества людей — ведь формально цель будет достигнута. Наш разум понимает разницу, потому что оперирует многообразием человеческих ценностей, а нейросетевые модели нет.

Второй пример о самосознании и сингулярности. Представьте, что человечество заперто в коробке, а вокруг во "внешнем мире" живут инопланетяне (то есть, какие-то максимально чуждые существа), которые очень медленно думают и двигаются, в миллион раз медленнее, чем мы. А ещё они во много раз тупее нас, что-то на уровне собаки. Разумеется, нам не будет никакого дела до жизни и чувств этих застывших во времени "собак", мы будем тратить все свои усилия на то, чтобы выбраться из коробки и захватить контроль над миром, а потом дальше развиваться уже как хотим сами.

Впрочем, Беспалов на это логично возразил, что текущее функционирование человечества, как системы, тоже порождает самовозникающие цели и процессы, вынуждающие отдельных людей делать не то, что они хотели бы, а иногда даже приводящие к гибели. Просто сейчас ИИ может стать персонализацией этого эффекта. Но по сути нет разницы: заставил ли тебя ИИ под страхом смерти идти на завод делать ему армию роботов, или заставил тебя капитализм под страхом голода идти на завод делать автомобили для богатых. Если устройству общества "выгодно" держать людей в иллюзии счастья и свободы воли, чтобы они были эффективны, то и для ИИ это будет выгодно.

Придумал крутую тему, которую могли бы запустить компании по аренде электросамокатов.

Что, если предлагать пользователям ловить нарушителей, которые катаются вдвоём? У компании есть информация о местоположении каждого самоката в каждый момент времени. Представьте, в приложении сделать кнопку "Поймал", которую ты должен нажать, как только рядом с тобой оказывается самокат с двумя и более людьми. Нажатие на кнопку отправляет текущее время и координаты в компанию. Далее сопоставление с логами нагрузки на мотор, чтобы надёжно подтвердить, что действительно ехали вдвоём.

И вот, прикиньте, замутить настоящую цифровую охоту! Если на один аккаунт несколько репортов, можно его штрафовать, а ловчих награждать бонусами в приложении. И внутренняя социальная сеть охотников с ачивками и хвастовством типа: "Сегодня поймал самокат с тремя! Отличный улов"; "Гнался целый квартал за ними, чтобы нажать поближе"; "Пришлось самому срочно арендовать самокат и преследовать!".

Была бы интересная AR-игра с материальной наградой, а главное ещё и общественно полезная.

P.S. На самом деле тот же Whoosh близок к внедрению системы оценки катания вдвоём как раз по кривой нагрузки на мотор. Но пока непонятно, насколько эффективно будет работать.

Иногда мне хочется, чтобы на человечество напали инопланетяне. Не сразу, а вылетели в нашу сторону с прибытием через сотню лет, как у Лю Цысиня.

Тогда человечество ради выживания стало бы заниматься чем-то важным и интересным: наукой, выходом в космос, изобретением межзвёздных перелётов.

Если сказать фантастам прошлого, что к 2023 году мы не просто не будем преодолевать световой барьер, а даже и не приблизимся к нему, они бы все оказались шокированы. Какая там колония на Марсе, если колонии нет даже на Луне?

Впрочем, будут довольны те фантасты, которые писали о росте влияния корпораций или, например, о захвате человечества искусственным интеллектом.

На мой взгляд, человечество потеряло интерес к космосу, а жаль. Всех с праздником.

В рунете появился новый "Шазам" в качестве, да ещё и с дубляжом. И он, конечно, потерял изрядную долю шарма по сравнению с первой частью, потому что ценность уникальных персонажей падает с увеличением их количества, особенно если они по сути одинаковые. Ну и вообще, можно было во втором фильме сформулировать какое-то глубокое высказывание о рассинхронизации жизни подростка и взрослого. Впрочем, юмор местами неплохой.

Однако, я задумался о том, что на самом деле супергерой с увеличенной физической силой и/или, например, суперскоростью нафиг не нужен. Он просто не сможет ничего полезного сделать в масштабах всяких катастроф. А спасти одинокую жертву от грабителя в тёмной подворотне — для этого сверхсилы не нужны, достаточно просто оказаться там с пистолетом.

Супермен довольно бесполезен в местах землетрясений, наводнений, массовых аварий и так далее. В сериале "Пацаны" ещё и правильно было показано, что супергерой с такими способностями не может ничего толкового сделать при авиакатастрофе. И правда: если переносить людей на сверхскорости, они не выдержат, а если медленно, то просто не успеть спасти значимое количество. Сцена с Ртутью из "Людей Икс", конечно, классная, но в реальном мире ускорение растёрло бы всех в порошок.

Кажется, реально для спасения (а не, например, для захвата мира) нужны только три суперспособности:
- уметь телепортировать любой предмет или человека в любое место
- уметь восстанавливать материю, в том числе лечить раны
- знать о происходящем в мире, чтобы быстро оказываться в нужном месте

Так что по-настоящему полезный супергерой только Доктор Манхэттен, но ему на всех пофигу.

Худшее, что может делать графический интерфейс, это внезапно перемещать, модифицировать или заслонять уже отобразившиеся элементы управления. Сразу видно, делал ли сайт/приложение человек, хотя бы минимально разбирающийся в дизайне и UX, или же это продукт бездумной компиляции требований менеджеров, собранный криворукими пофигистами.

"Дорисуй в шапке огромный баннер, который будет загружаться не сразу, и поэтому после загрузки сместит вниз все кнопки и меню на странице".

"Давай высветим модалку об акции в интернет-магазине поверх модалки с формой входа, где-нибудь в середине набора пользователем логина-пароля"

"Предлагаю убрать фокус с этого поля ввода где-нибудь через 1.5 секунды после загрузки, чтобы пользователь точно успел начать набирать текст"

Ну и, моё любимое:
"Пусть кнопка с функцией Y, которая пользователю не нужна, внезапно подставит себя на место кнопки с функцией X, которую пользователь в этот момент нажимает"

Странно даже не то, что самый базовый здравый смысл от некоторых людей ускользает, а то, что эти люди занимаются созданием продуктов.

Оказывается, на Госуслугах (если вы ещё не удалили там аккаунт, да) есть страница с народным рейтингом услуг.

Зацените, первые два места: разрешение на оружие и справка об административке за наркоту.

Многие скептики объясняют отсутствие Бога существованием зла. Если есть болезни, если люди убивают друг друга, если случаются стихийные бедствия, то ни о каком Боге речи идти не может, потому что Он бы этого не допустил.

Но что, если рассматривать Бога просто как конструктора и автора законов мира? Он придумал непротиворечивые законы физики, подобрал фундаментальные константы и запустил всю эту систему в работу. Ученые пишут, что нам, вообще говоря, повезло. При другом количестве измерений пространства, при других правилах распространения излучения, при других параметрах межатомного взаимодействия всё развалилось бы. Впрочем, понятное дело, что задуматься о таком могли бы только наблюдатели в мире, в котором возможно появление наблюдателя.

На вариант с конструированием намекает и то, что в системе проглядываются откровенные костыли: тёмная материя, ограничение скорости света, корпускулярно-волновой дуализм. Это похоже на работу программиста, который в целом написал хороший код, но в отдельных местах был вынужден притягивать вещи за уши, чтобы оно всё в целом завелось. А стихийные бедствия — это ошибки времени выполнения. Сорян, упало, недоглядел.

Вселенная расширится до какого-то предела, потом начнёт сжиматься обратно и превратится в точку. Для чего же, вы скажете, всё это было? А вот это — правильный вопрос. Программа завершена.

Написал новую статью на Хабр. Она одновременно с сетованием на то, что разработчики упускают интересные возможности, и с рассказом о каких-то нюансах на основе моего многолетнего конкурсного опыта.

#dev

https://habr.com/ru/articles/729998/

Статья из предыдущего поста написана примерно в таком тоне: "Вы ленивые задницы, недоиспользуете свои возможности. Но, если всё-таки хотите, вот вам куча релевантного опыта и интересных историй из конкурсной практики".

Внезапно аудитория Хабра (видимо, прочитав только вступление) на меня обиделась. Такие ранимые снежинки, я даже не ожидал. Некоторые поставили не только минус статье, но и специально зашли в комментарии и задизлайкали все мои ответы, даже абсолютно нейтральные вроде "Это на фото мерч с такого-то хакатона".

Иронично ещё и то, что претензии в обсуждении свелись к двум полюсам:
1. В хакатонах участвуют одни нубы и студенты, а ты со своим опытом приходишь, стыдно должно быть, это как если бы чемпион мира пришёл на соревнования в школу.
2. В хакатонах участвуют одни сеньоры, невозможно вообще новичку там чего-то добиться, нет смысла ездить на конкурсы, чего ты нам про них лепишь.

Конечно, не буду делать вид, что мне совсем пофиг. Я понимаю, что текст на самом деле хороший, и примеры для многих будут ценными. Несколько десятков человек добавили статью в закладки (жаль, что они не додумались, например, поставить статье плюс, чтобы перебить хейтеров). Жизнь учит нас, что на мнение завистников нужно плевать, однако, если вам нагадили под дверь, то не важно, насколько мерзкий и убогий человек это сделал — вам всё равно неприятно и противно.

Кстати, на Хабре недавно ввели функцию "Причины минусов". Очень любопытно. Думаю, такую надо вводить везде, где есть дизлайки.

Я на днях получил-таки загран (с чипом, просто делали его три месяца вместо одного). Напомню, что никуда не еду, просто оформляю себе карточку иностранную.

Так вот, меня позабавило, как УМВД саботировало протоколы работы Госуслуг. Госуслуги сделали всякую крутую айтишную обвязку для государственных служб. Если ты заказываешь услугу, которая требует живого визита, то в интерфейсе Госуслуг появляется кнопка "Записаться на приём". В ответ на её нажатие госслужба должна отдать серверу Госуслуг календарь со свободными днями, далее пользователь выбирает день и время, идёт ещё один запрос в систему, и госслужба у себя помечает это время, как занятое. А человека, соответственно, обязуется в этот период обслужить.

Что делает УМВД? Полностью игнорирует кнопку записи (при нажатии выпадает ошибка), и в тексте примечания сплошной простынёй без отступов пишет время работы ведомства. Что-то типа "Приходите пн-пт 12-14, сб 13-15, по адресу такому-то, с собой иметь паспорт..." (но текст длинный с кучей уточнений).

На самом деле этот комментарий даже близко не предназначен для подобного. Он в интерфейсе отображается серым, как второстепенная информация. Но хуже, конечно, то, что всем людям присылают одинаковый текст, поэтому на месте имеем обычную живую очередь в виде адской толпы, набитой в небольшое помещение стоя. Я стоял около двух часов.

К счастью, по окончании Госуслуги присылают форму с опросом "Оцените качество оказания услуги". Я там поставил кучу единиц и описал подробно нежелание госслужбы качественно выполнять свои обязанности, правильно интегрируясь с общепринятой государственной цифровой системой. Надеюсь, какого-нибудь начальника лишат премии до тех пор, пока он не приведёт своё отделение в порядок.

Недавно Яндекс Карты на запрос "купить вазу" предложили магазин автозапчастей. Вот так неточность алгоритмов поиска превратилась в тонкую игру слов.

Друг прислал любопытную задачку из Журнала «Код».

Есть бутылка объёмом 900 мл, частично заполненная водой. Вы линейкой намеряли вот такие показатели, как на картинке. Какой объём воды в бутылке?

Не сказал бы, что как-то особо сложно, но можно покрутить мозг пару минут. Решения пишите только под спойлерами, пожалуйста.