Нещодавня новина про “мову” DALL-E 2, та відповідний тред з критикою [[це тільки початок]], нагадали реакцію на успіх AlphaGo (16й рік так близько і так далеко).

Ґо можна інтерпретувати як спорт чи мистецтво, проте у цьому контексті нам буде цікава метафора діалогу. Тут непогане відео розвитку концепцій у ґо, яке завершується висновком про те що AlphaGo показує – “все можливо”. І дійсно, якщо розглядати гру як послідовність питань, не дивно якщо модель задаватиме “більш конкретні” питання. Але не вірно казати що AlphaGo створює нові ходи. Вони завжди були можливими на дошці, проте ми просто гірше бачили їх значення у контексті діалогу. Діалог у якому ми не до кінця розуміємо що насправді кажемо.

Повертаючись до семантики навколо DALL-E 2, можна сперечатись чи є проекція комбінацій символів у “візуальні сенси” розумінням мови. Коли ми відмежовуємо значуще й незначуще у мові, ми не розраховуємо на повноту проекції всіх можливих комбінацій символів. Тому не дивно якщо модель бачитиме незвичні проекції комбінацій, вони завжди були там. Але їх знаходження не є метою нашого запитання, навпаки, ми наївно розраховуємо на максимально точну проекцію відповідно до нашої мови, з урахуванням незначущого. Дискусії про обхід блокування генерації “harmful content” через “секретні словники” моделей, як очевидний наслідок. Create ways to speak without speaking, так би мовити.

Любимо ми винаходити правила/фреймворки, а потім обожнюємо магію розвивати символічні системи на їх основі. І радіємо насиченню сенсом ніби жадаючи повноти. Можливо тому що у власному діалозі з реальністю не видно ні правил ні повноти)

+ bonus
https://youtu.be/efVBUDnD_no

Цікавий історичний артефакт зі смаком 30х та анґлійського біфстексу. (Особливо відгукується ч2 - навчіться асимілювати / час іде, срачі ті самі)