Сейчас, когда искусственный интеллект совершенствуется буквально с каждым днём, а разработчики каждые несколько месяцев представляют очередную программу машинного перевода, результаты работы которой «почти неотличимы от переводов, выполненных человеком», у специалистов-переводчиков возникает вопрос: исчезнет ли наша профессия, или у нас всё же есть будущее?

Мы иногда получаем запросы «причесать» перевод, сделанный машинкой. Никто, кроме переводчиков, которые работают над такой задачей, не может адекватно оценить ресурсы и время, которые необходимо потратить на подобное задание. А это значительные ресурсы.
Мы не будем сейчас углубляться в дебри научно-технического прогресса, все это – естественный процесс.

Машинный перевод развивается стремительно, но, несмотря на постоянное развитие, до сих пор он несовершенен. Программисты пытаются устранить языковые барьеры уже более 60 лет, с тех пор, как изобрели первые прототипы машинного перевода.
Мы рассмотрим основные вехи и этапы в создании и развитии этого сложного явления.

С чего все началось? В 1933 году советский ученый Пётр Троянский обращается в Академию Наук СССР с изобретённой им «машиной для подбора и печатания слов при переводе с одного языка на другой». Машина была крайне проста: большой стол, печатная машинка с лентой и плёночный фотоаппарат. На столе лежали карточки со словами и их переводами на четырёх языках.
Оператор брал первое слово из текста, находил с ним карточку, фотографировал её, а на печатной машинке набирал его морфологическую информацию – «существительное, множественное число, родительный падеж». Каждая клавиша кодировала одно из свойств. Лента печатной машинки и плёнка камеры подавались параллельно, на выходе формируя набор кадров со словами и их морфологией. Полученная лента отдавалась знающим конкретные языки лингвистам, которые превращали набор фотографий в связный литературный текст. Машина Троянского впервые на практике реализовала тот самый «промежуточный язык» (interlingua), о создании которого мечтали еще Лейбниц и Декарт.

По классике в СССР, изобретение признали «ненужным», Троянский умер от стенокардии, 20 лет пытаясь её доработать.

7 января 1954 года в штаб-квартире IBM в Нью-Йорке происходит Джорджтаунский эксперимент. Компьютер IBM 701 впервые в мире автоматически перевёл 60 предложений с русского языка на английский. Машинный мозг сделал английский перевод и выдал его на автоматический принтер с бешеной скоростью – «две с половиной строки в секунду», – сообщалось в пресс-релизе компании IBM. Однако, для повседневного использования эта система подходила не лучше карманного разговорника. Но гонка вооружений была запущена. Канада, Германия, Франция и особенно Япония тоже подключились к гонке за машинный перевод.

Сорок лет ученые бились в попытках улучшить машинный перевод, но тщетно. В 1966 году американский комитет ALPAC в своем знаменитом отчёте назовет машинный перевод дорогим, неточным и бесперспективным. Отчёт рекомендует больше сфокусироваться на разработке словарей, чем на машинном переводе, из-за чего исследователи из США практически на десятилетие выбывают из гонки.

Несмотря на всё, попытки ученых, их исследования и наработки впоследствии лягут в основу всего современного Natural Language Processing. Поисковики, спам-фильтры, персональные ассистенты, – всё это появится благодаря тому, что кучка стран сорок лет подряд пыталась шпионить друг за другом.

(Продолжение следует)

#живые_переводчики_и_машинный_перевод

Время продолжить сообщение о машинном переводе. Если коротко, история его развития выглядит так:

Перевод на основе правил (60-80-ые годы прошлого века) –> Перевод на основе примеров (70-90-ые) –> Статистический перевод (анализ форм слов, синтаксиса, сочетаний, еще и PROMT появляется в 1991 году) –> Перевод с использованием нейросетей (после 2015 года).

Начнем с истоков. Идеи машинного перевода на основе правил появились еще в 1970-х годах. Ученые анализировали работу переводчиков и пытались запрограммировать свои большие компьютеры, чтобы они могли повторять за ними. Их системы состояли из:

- Двуязычного словаря (EN –> RU)
- Набора лингвистических правил под каждый язык (существительные женского рода оканчиваются на «а/я»)

На этом, собственно, все. Иногда были дополнения в виде списков имен, что-то специально корректировалось.

PROMT и Systran — самые известные примеры RBMT-систем (RBMT – это Rule-based machine translation). Золотое время, оставившее множество перлов. «Алиэкспресс» до сих пор так переводит.

Системы дословного перевода (Direct Machine Translation)

Самый простой способ машинного перевода, понятный даже ребенку. Делим текст на слова, переводим каждое слово, правим морфологию, согласуем падежи, окончания и синтаксис. Специально обученные лингвисты по ночам пишут правила для каждого слова.

На выходе получаем что-то переведенное. Если дергали для этого лингвистов, часто оказывается, что зря. В современных системах этот подход не используется вообще.

Трансферные системы (Transfer-based Machine Translation)

В них текст сначала разбирается на подлежащее, сказуемое, для слов находятся определения. Все остальное – как учили в школе. Потом идет работа с целыми конструкциями. Теоретически таким образом можно добиться более или менее неплохой конвертации порядка слов в языке. На практике все сложнее, лингвисты гибнут, а перевод по факту получается дословным. Сочетаний слов больше, чем самих слов. Каждый вариант невозможно учесть и внести в систему руками.

(Продолжим писать на эту тему в ближайшие дни. Спасибо за внимание)

#живые_переводчики_и_машинный_перевод

Продолжим разговор про эволюцию машинного перевода.

Начало истории выше ⬆️

Интерлингвистические системы (Interlingual Machine Translation) родились чуть позже. Это когда исходное предложение конвертировалось во что-то промежуточное, единое для всех языков мира (interlingua).

Создать универсальный промежуточный язык оказалось очень сложно, и никакого рабочего варианта не получилось, но благодаря потраченным усилиям появились методы морфологического, синтаксического и даже семантического анализа.

Это вкратце все о переводе на основе правил, который сейчас может использоваться, пожалуй, лишь в переводе метеопрогнозов. Множество правил все равно не решает главных проблем, одна из которых – омонимия.

Машинный перевод на примерах (Example-based MachineTranslation (EBMT))

Время шло, процесс глобализации набирал силу. В 1984 году японскому ученому приходит идея не пытаться каждый раз переводить заново, а использовать уже готовые фразы.
Например, нам надо перевести предложение «я иду в школу». Где-то в базе у нас уже есть перевод фразы «я иду в театр» и словарь с переводом слова «школа». Мы можем вычислить разницу и перевести только одно слово в примере, не изменяя остальные конструкции.
Историческая важность метода была в том, что ученые всего мира впервые прозрели: можно не тратить годы на создание правил и исключений, а просто взять кучу уже имеющихся переводов и загрузить их в машину. Это была еще не революция, но шаг навстречу ей. До изобретения статистического перевода оставалось пять лет.

Статистический машинный перевод (Statistical Machine Translation (SMT))

На рубеже 1990 года в исследовательском центре IBM впервые представили систему перевода, которая ничего не знала о правилах и лингвистике. Ученые загрузили в компьютер множество одинаковых текстов на двух языках, и заставили его разбираться в закономерностях самому.
Идея была проста и красива: берем одно предложение на двух языках, разбиваем его по словам и пытаемся сопоставить каждое слово с его с переводом. Повторяем эту операцию 500 млн раз, а машина считает, сколько раз, например, слово das Haus переводилось как house, building, construction, и т.д. Правила не задавались. Машина сама все находила, руководствуясь статистикой и логикой. Так родился статистический перевод.

Точность таких переводов оказалась заметно выше всех предыдущих. «Находим больше текстов и улучшаем перевод».

Моделей статистического перевода было несколько: по словам, с учетом (относительного) порядка слов в предложении и с возможностью перестановки слов, с добавлением отсутствующих слов (например, артиклей), по фразам и на основе синтаксиса. Последнему прочили большое будущее до прихода нейросетей, о которых мы расскажем в следующей и последней публикации на эту тему.  

#живые_переводчики_и_машинный_перевод

Заканчиваем обзор про машинный перевод. Тему не закрываем, потому что вопросов и споров, связанных с ним, много. Итак…

Нейронный машинный перевод.

В 2014 году выходит статья, в которой кратко описывается идея применения нейросетей глубокого обучения (deep learning) к машинному переводу. В лабораториях Google начинается активная работа.
В ноябре 2016 года в блоге Google появляется анонс, который и перевернул ситуацию.

Идея была похожа на перенос стиля между фотографиями. Помните приложения типа Prisma, которые обрабатывали фото в стиле известного художника? Нейросеть обучили распознавать картины художника, а потом создали промежуточное представление, макет, что и было той самой стилизованной картинкой. Машина видит, и нам красиво.

Если с помощью нейросети мы можем перенести стиль на фото, то мы можем представить и язык текста, как «стиль художника», попытавшись его перенести (перевести), сохранив при этом суть.

Что будет, если представить исходный текст как набор характерных свойств, чтобы затем другая нейросеть расшифровала их обратно в текст, но уже на другом языке?
Еще раз: первая нейросеть умеет только кодировать предложение в набор характеристик, а вторая – только декодировать их обратно в текст. Каждая из сетей знает только свой язык.

Как найти эти характеристики? С описанием, например, собаки понятно: лапки, ушки, хвост, другие части тела, но как быть с текстами? Изобрели «диплернинг». К сожалению, формат публикации не позволяет покопаться в этом вопросе подробно. Главное отличие диплернинга от классических нейросетей было в том, что его сети обучаются находить свойства объектов, не понимая их природы, и при наличии большой нейросети можно попытаться найти такие характеристики и в тексте.

Виды нейросетей разные: одни работают с независимыми блоками информации, например, анализируют пиксели в картине, но есть и реккурентные нейросети (RNN), которые помнят предыдущий результат (например, предыдущие слова в предложении).
RNN сейчас применяют во многих областях: распознавание речи в Siri, подсказки слов при написании писем и т.д.

За несколько последующих лет нейросети были развиты настолько, что нейронный перевод делал на 50% меньше ошибок в порядке слов, на 17% меньше лексических и на 19% грамматических ошибок. Нейросети даже научились сами согласовывать род и падежи в разных языках. Сейчас они вполне успешно находят и цитируют высказывания, копируют фразы и целые тексты из ранее опубликованного.

Заключение

Всех по-прежнему будоражит идея о том, что перевод с помощью искусственного интеллекта может заменить «живой» перевод. Не может. Нестандартные тексты, где для перевода требуется знать контекст и подходить к переводу творчески, невозможно адекватно перевести с помощью нейросетей. Креатив не предусмотрен. А еще, например, при синхронном переводе «на лету» нужно понимать, когда нужно начать переводить, а когда - сидеть и слушать.

Обучение систем упирается в ограниченный набор параллельных корпусов с текстами. Мы не можем обучить нейросеть, не давая ей оригинала. А человекможет пополнять словарный запас просто от чтения книг или статей, даже не переводя их на свой родной язык.