Forwarded from Neural Shit
Давным-давно мы с автором бота "Всратослав" вместе напилили бота "Сутулый Акела". Этот бот присылал изображения всратых сгенерированных нейронкой волков с веселыми заранее собранными подписями. Позже админы "всратослава" бота отключили (не знаю почему).
С тех пор мне по 2-3 раза в неделю пишут разные люди с просьбой включить этого бота или написать нового. Я все собирался, но времени никак не было. До сегодняшнего дня.
Кароч, вот @neural_wise_wolf_bot
Отличается от "Сутулого Акелы" тем, что подписи генерирует нейросеть GPT-3, обученная на пацанских цитатах. С моделькой я еще поработаю, чтоб сделать веселее.
И да, первое время бот может падать. Если долго не отвечает — просто подождите несколько минут и попробуйте заново
С тех пор мне по 2-3 раза в неделю пишут разные люди с просьбой включить этого бота или написать нового. Я все собирался, но времени никак не было. До сегодняшнего дня.
Кароч, вот @neural_wise_wolf_bot
Отличается от "Сутулого Акелы" тем, что подписи генерирует нейросеть GPT-3, обученная на пацанских цитатах. С моделькой я еще поработаю, чтоб сделать веселее.
И да, первое время бот может падать. Если долго не отвечает — просто подождите несколько минут и попробуйте заново
Forwarded from Мишин Лернинг
❓Зачем нам ещё один DALL•E 1 | DALL•E mini❓
Тут вышло DALL•E mini. И вышло оно второй раз. Про первую прошлогоднюю версию я упоминал. И это был прям треш.
Но ребята запросили компьют, взяли огромный сет и решили сделать версию получше.
Итог: получили очередной pastgen text2image среднего качества
👉 Потестить DALL•E mini | Работает быстро
Тут вышло DALL•E mini. И вышло оно второй раз. Про первую прошлогоднюю версию я упоминал. И это был прям треш.
Но ребята запросили компьют, взяли огромный сет и решили сделать версию получше.
Итог: получили очередной pastgen text2image среднего качества
👉 Потестить DALL•E mini | Работает быстро
Forwarded from ̶с̶а̶м̶̶о̶изолента мёбиуса
Есть куча способов измерить смысловое сходство двух коротких текстов, но насколько эти способы реально хороши?
В статье A large-scale computational study of content preservation measures for text style transfer and paraphrase generation мы с коллегами попробовали выяснить это.
Мы собрали кучу данных, состоящих из пар английских предложений и человеческих оценок того, насколько эти предложения похожи: 9 датасетов по детекции парафраз, и ещё 10 – по переносу стиля текстов. И на этих данных мы измерили корреляцию 57 разных метрик текстовой близости с человеческими суждениями.
В большинстве статей по перефразированию и переносу стиля текстов, для сравнения текстов используют BLEU: долю совпадающих словных n-грамм. И зря! На всех 19 наших датасетах гораздо лучше себя показали метрики, основанные на трансформерных моделях. Во-первых, это би-энкодеры: модели, которые получают эмбеддинги каждого предложения по отдельности (типа SimCSE, USE, LaBSE), и расстояние между этими эмбеддингами можно использовать как метрику. Во-вторых, это кросс-энкодеры: модели, которые принимают на вход пару текстов, и сразу возвращают оценку сходства этих текстов. Хорошо себя показали кросс-энкодеры, обученные на задачах NLI, оценки семантической близости (например, датасет STS-b), или оценки качества машинного перевода (а именно, модель BLEURT). Одну такую модель, mutual implication score, законтрибьютили и мы: это RoBERTA, дообученная сначала на NLI и потом на детекции парафраз, и на большинстве наших датасетов она тащит.
Впрочем, даже у этой, пока-что-наилучшей метрики, корреляция с человеческими оценками в среднем около 60%, так что расти есть куда. Новые метрики сходства текстов тоже можно оценить на нашем бенчмарке: 16 из 19 датасетов находятся в открытом доступе, и мы выложили их в стандартизированном виде. Так что будем надеяться, что в нашем рейтинге метрик появятся новые, ещё более крутые кандидаты.
А пока что для оценки сходства (английских) текстов делайте
В статье A large-scale computational study of content preservation measures for text style transfer and paraphrase generation мы с коллегами попробовали выяснить это.
Мы собрали кучу данных, состоящих из пар английских предложений и человеческих оценок того, насколько эти предложения похожи: 9 датасетов по детекции парафраз, и ещё 10 – по переносу стиля текстов. И на этих данных мы измерили корреляцию 57 разных метрик текстовой близости с человеческими суждениями.
В большинстве статей по перефразированию и переносу стиля текстов, для сравнения текстов используют BLEU: долю совпадающих словных n-грамм. И зря! На всех 19 наших датасетах гораздо лучше себя показали метрики, основанные на трансформерных моделях. Во-первых, это би-энкодеры: модели, которые получают эмбеддинги каждого предложения по отдельности (типа SimCSE, USE, LaBSE), и расстояние между этими эмбеддингами можно использовать как метрику. Во-вторых, это кросс-энкодеры: модели, которые принимают на вход пару текстов, и сразу возвращают оценку сходства этих текстов. Хорошо себя показали кросс-энкодеры, обученные на задачах NLI, оценки семантической близости (например, датасет STS-b), или оценки качества машинного перевода (а именно, модель BLEURT). Одну такую модель, mutual implication score, законтрибьютили и мы: это RoBERTA, дообученная сначала на NLI и потом на детекции парафраз, и на большинстве наших датасетов она тащит.
Впрочем, даже у этой, пока-что-наилучшей метрики, корреляция с человеческими оценками в среднем около 60%, так что расти есть куда. Новые метрики сходства текстов тоже можно оценить на нашем бенчмарке: 16 из 19 датасетов находятся в открытом доступе, и мы выложили их в стандартизированном виде. Так что будем надеяться, что в нашем рейтинге метрик появятся новые, ещё более крутые кандидаты.
А пока что для оценки сходства (английских) текстов делайте
pip install mutual-implication-score.👍1
Forwarded from [404] — программирование
📈 Matplotlib и Seaborn — [11:52]
Набор каких-то цифр довольно сложно прочитать и понять. Но и тут есть решение — графики. Модулей для их составления куча, но автор выбрал лучшие.
В видео вы научитесь создавать современные графики с помощью Matplotlib и Seaborn, анимировать их и использовать в своих проектах.
Перейти к просмотру
#видео #python
Набор каких-то цифр довольно сложно прочитать и понять. Но и тут есть решение — графики. Модулей для их составления куча, но автор выбрал лучшие.
В видео вы научитесь создавать современные графики с помощью Matplotlib и Seaborn, анимировать их и использовать в своих проектах.
Перейти к просмотру
#видео #python
