У легенды АИ-ресеча, Андрея Карпаты, вышел классный пост с попыткой рассказать что же такое токены в понимании языковой модели и почему используются они, а не обычные нормальные человеческие слова – чуть перескажу его:

Слова - это то, что мы обычно используем, когда говорим или пишем (ваш капитан). Например, в предложении "Мне нравятся кошки" - три слова

Токены - это немного сложнее:
Они используются машинами для обработки языка, токен может быть словом, частью слова или даже знаком препинания. Компьютеры разбивают текст на токены, чтобы лучше его понимать и работать с ним (и это эффективнее и быстрее чем работать с целыми словами)

Есть разные способы разделить текст на токены, и их называют токенизаторами и разные токенизаторы работают по-разному, в зависимости от того, для чего они нужны

В среднем, на один токен приходится примерно 0,75 слова, или другими словами, на каждые четыре токена приходится примерно три слова. Опять же, это может меняться в зависимости от того, какой токенизатор используется – вот пример такого от OpenAI, им я считаю себестоимость исходящих запросов для их моделей

Если совсем наглядно, то вот как текст этого поста видит «языковая модель»:
👨🏿‍❤‍💋‍👨🏻🧑🏼‍🦽‍➡️🙋🏻‍♀️🧗🏼‍♀️🥖👩🏽‍🚒🫱😈🦸🏾‍♂️🍏👩🏾‍🦳👱🏾‍♂️🧑‍🦽👩🏾🧑🏾‍🦼‍➡️
😈👩🏿‍🦯💃🏾🧙🏽‍♀️🤝🏾💌↕️🧝🏿‍♀️🛞🫱🧑🏾‍🦼‍➡️🧙🏽🙅‍♀️🗣😶
👨🏻‍🦲☺️🍱👩🏼‍🤝‍👨🏾🧑🏼‍🦽‍➡️🧝🏿‍♀️🔣🫱💆🏽‍♀️🌶☺️🧑🏽‍⚖️🇹🇯🍧〰️
🤵‍♂️🧑🏼‍🦽‍➡️🖊🚶🏼‍♂️‍➡️🏃🏿‍♀️‍➡️📕🔃🏊🚶🏻‍♀️‍➡️🧑🏼‍🦽‍➡️🧝🏿‍♀️💑🏾🔶🤣🫁
🏃🏽‍♂️‍➡️👩🏽‍⚖️🫱♀️☺️🇳🇫🇰🇾🏄🏾‍♂️🧑🏼‍🦽‍➡️🧝🏿‍♀️🕵🏼‍♀️🗜🧑🏻‍🎓✋🏼🧑🏿
💆🏽‍♀️📮👔🇲🇫🧑🏾‍🦼‍➡️🏋🏿🧑🏼‍🦽‍➡️👨🏾‍🦯‍➡️🧑🏼‍🦽‍➡️🏾📏🪱⏳🧑‍🍼👨🏾‍🦲
🪱🧖‍♂️🗣🚶🏿‍♂️🧑‍🦽👱🏾‍♂️🇼🇸🧙🏽‍♀️☪️👩🏾🧑🏼‍🦽‍➡️🏌️🧖‍♂️💇🏼‍♂️👩‍❤️‍👨
👱🏾‍♂️🌶👩‍🦽‍➡️🧑🏻‍🎓🖲👨‍⚖️👭🏾🙋🏻‍♀️🚶🏿‍♂️👩🏾🧑🏼‍🦽‍➡️🏌️🕵🏿‍♀️🧑🏼‍🦽‍➡️😕
🧑🏾‍🦼‍➡️🤵‍♂️🤫🧑🏼‍🦽‍➡️🏾📏🏌️‍♂️✋🏼🧑🏻‍🎓🗜🧑🏾‍🦼‍➡️🤵‍♀️🚶🏿‍♂️‍➡️🇫🇷🧑🏼‍🏫
🚶🏿‍♂️🈴🔶🧵🥘🫁🙅‍♀️🗜🧚🏻‍♀️🙇‍♂️🌭🤵‍♀️👩🏻‍🦲🫷👩🏻‍❤‍💋‍👨🏾
🇳🇨👁‍🗨👩🏻‍🦲👩🏾‍🦳🤸🏾‍♂️🧑🏾‍🦼‍➡️🚶🏻‍♀️‍➡️🧑🏼‍🦽‍➡️🧝🏿‍♀️🧚🏿‍♂️👩🏽‍🔧🇦🇫👦🏾👩🏿‍🎓👨🏾‍🦯‍➡️
⏳🪮👨‍🍼📮🧑🏻‍🦳🙅‍♀️🇼🇸👨🏾‍🦱🧑🏼‍🦽‍➡️🏌️📕🙍🏽‍♀️☪️👩🏾🖖🏾
🧔🏽‍♀️🔃🏊🧑🏼‍🦽‍➡️🏌️🕵🏿‍♀️⏳🗜🧑🏻‍⚖️🙇🏿‍♂️🙎🏻‍♀️👩🏿‍🦯🏄🏼🧎‍♀️♋️
🇲🇫✋🏼🧑🏿💆🏽‍♀️📮🤲🏿🌭🧑‍🦼‍➡️🕴🏾👩🏾‍❤‍👨🏾🏃🏿‍♂️‍➡️📆🇼🇸🏃🏽‍♂️‍➡️👩🏽‍⚖️
🫱🌫🧑🏾‍🦼‍➡️📕🔃🥖🧛🏽‍♀️🇷🇪☪️👨‍👩‍👦🧑🏾‍🦼‍➡️🧖‍♂️👩🏾👨🏽‍🌾🇨🇱
☪️👩🏾🧵🇵🇾👩‍🦽‍➡️🧙🏽‍♀️👆🏻👩🏿‍🦯🤽🏻‍♂️👨‍👩‍👦👱‍♀️🧎🏾‍♀️‍➡️🧑‍🦼‍➡️🚣🏿‍♀️🙍‍♀️
💌👨‍👩‍👦🧝🏿‍♀️👷‍♀️🪤🫱🔓👐🏻🥔👩🏾💇🏽‍♂️⏰👩🏿‍❤‍👩🏻🧑🏼‍🦽‍➡️💆🏽‍♀️
🔃🏊🧑🏾‍🦼‍➡️🇻🇺👩🏾‍🦯‍➡️🦹🏼‍♂️⬆️🖲🥘💑🏾🔶〰️🏄🏾‍♂️🧑🏼‍🦽‍➡️📆
〰️👩🏼‍🤝‍👨🏾🧑🏼‍🦽‍➡️👩🏿‍🦯🔶🧚🏻‍♀️🫁🧑🏼‍🦽‍➡️🧚🏻‍♂️😕🪖👮🏻‍♂️👮🏻‍♂️🤽🏿‍♀️🧑🏽‍🤝‍🧑🏼
👩🏿‍🦯🏄🏼🏄🏾‍♂️🧑🏼‍🦽‍➡️👐🏻🫱🤎🏄🏼🧖‍♂️🗜🚶🏽‍♂️〰️👩🏼‍🤝‍👨🏾🧑🏼‍🦽‍➡️🗞
🗣🫱🧑🏽‍🎓☪️🕴🏾👳‍♂️🍺👨🏽‍🌾🔓🪱🏋🏾‍♀️🏃🏾‍➡️🏾🔓🧑🏾‍❤‍💋‍🧑🏿
🏳️⏰👩🏿‍❤‍👩🏻🧑🏼‍🦽‍➡️💆🏽‍♀️🔃🏊🧑🏾‍🦼‍➡️🏄🏾‍♂️🧑🏼‍🦽‍➡️👩🏾‍🦯🧑🏼‍🦽‍➡️👩🏿‍🦯👩🏻‍🤝‍👩🏼🧑🏻‍❤‍💋‍🧑🏼
👩🏾💇🏽‍♂️📕🔃🧑🏽‍⚕️👩🏽‍⚖️🇨🇦🕴🏾🏄🏾‍♂️🧑🏼‍🦽‍➡️🧖🏾‍♀️🪱📕🔃🧑🏽‍⚕️
👩🏽‍⚖️🇨🇦🫱🚶🏽‍♂️👩🏾💇🏽‍♂️☺️🍏🧖🏾‍♀️👩🏿‍🦯🕓🧑🏾‍🦼‍➡️🚶🏻‍♀️‍➡️🧑🏼‍🦽‍➡️👩🏽‍⚖️
🧑🏽‍🤝‍🧑🏽🏖🔶🧎🏿‍➡️🇹🇱🧑🏼‍🦽‍➡️💆🏽‍♀️💇🏿‍♀️🧑🏾‍🦼‍➡️👩🏾‍❤‍👨🏾🧖‍♂️💇🏾👔🇲🇫🇬🇹
👩🏿‍🦱🖖🏾🎅🏼🧑🏼‍🦽‍➡️🛸🧚🏿‍♂️👩🏿‍🦯🗜🧑🏾‍🦼‍➡️👩🏿‍❤‍👩🏻🧑🏼‍🦽‍➡️🧚‍♀️🧑‍🦼‍➡️📕🔃
🥖🧔🏼🪥❎👱‍♀️🤸🏾‍♂️🏌️‍♂️🧑🏽‍❤‍🧑🏾✌🏿🧑🏾‍🦼‍➡️👩🏿‍❤‍💋‍👨🏻🧑🏼‍🦽‍➡️🧗🏻‍♀️🚶🏿‍♂️👩🏾
🧑🏾‍🦼‍➡️🧵🔔🔶🫁☪️🕴🏾🧑🏾‍🦼‍➡️👩🏿‍❤‍👩🏻🧑🏼‍🦽‍➡️🌶🏳️‍🌈💂🧖‍♂️🚶🏾‍♀️‍➡️
🫱👩🏾‍🦳🧙🏽‍♀️📕🔃📚🧔🏼🪥❎👱‍♀️🤸🏾‍♂️🏌️‍♂️📕🙍🏽‍♀️☪️
👩🏾🙍‍♀️👩🏻‍❤‍💋‍👩🏾🧝🏿‍♀️🤸🏼‍♀️🧑🏼‍🦽‍➡️🖊🧑🏾‍🦼‍➡️🕵🏿‍♀️🧛🏽‍♀️🤵🏼‍♀️🤸🏼‍♀️📮🚶🏻‍♀️‍➡️🧑🏼‍🦽‍➡️
👩🏽‍⚖️🧑🏽‍🤝‍🧑🏽🏖🔶🧎🏿‍➡️🇹🇱🧑🏼‍🦽‍➡️💆🏽‍♀️💇🏿‍♀️🧑🏾‍🦼‍➡️🇪🇷☺️📕🔃🧑🏽‍⚕️
👩🏽‍⚖️🇨🇦✋🏼🧑🏻‍🎓🧗🏾‍♂️🧑🏼‍🦽‍➡️🏌️🚶🏻‍♀️‍➡️👮🏾👱‍♀️🤸🏾‍♂️🚶🏼‍♂️‍➡️💇🏿‍♀️🇹🇱🧑🏼‍🦽‍➡️
🧑🏾‍🦯🖲🧑🏾‍🦼‍➡️🧑🏼‍❤‍💋‍🧑🏾🧑🏼‍🦽‍➡️🤝🏾🧑🏼‍🦽‍➡️🛸🧍🏿👩🏾🇨🇱👩🏼‍🤝‍👨🏾🤾🏻‍♀️🏎👯
🔶🙇🏻‍♂️🏄🏾‍♂️🛸🪥🤝🏾♑️👩🏾‍🦯🌱🚶🏿‍♂️👩🏾‍❤‍👨🏾🏄🏾‍♂️👨🏾‍🏫🧑🏼‍🦽‍➡️🚶🏽‍♀️‍➡️
🧚‍♀️🗣🎗🖖🏾🍺🤙🏻👩🏼‍🤝‍👨🏾🚶🏿‍♂️🛸🗜⏳🧑🏾‍🦯‍➡️🧑🏻‍🦯‍➡️👩🏽‍🚒🏌️‍♂️
🧑🏾‍🦼‍➡️🪪🧑🏼‍🦽‍➡️🙇‍♂️👮🏾🇪🇷⏰💆‍♂️💇🏿‍♀️☺️🍱👩🏾👦🏾🙇‍♂️👨🏽‍❤‍👨🏽
🫷👨🏾‍🦱🏃🏽‍♂️‍➡️👩🏽‍⚖️🫱♀️👨‍🦽‍➡️🇳🇫👨🏾‍🦽‍➡️🤾‍♀️
_______
Источник | #denissexy
@F_S_C_P

Узнай судьбу картами Таро:
✨Anna Taro bot

Человечество:
1) делаем автономных роботов от которых не убежать
2) …
3) Профит
_______
Источник | #denissexy
@F_S_C_P

-------
поддержи канал
-------

Мне кажется, массы все же не готовы у такому txt2vid качеству, этот год будет интересным 🥲

Автора не знаю
_______
Источник | #denissexy
@F_S_C_P

Генерируй картинки с ⛵️MIDJOURNEY в Telegram

А вообще, хотел вам порекомендовать клевый ютуб канал, с довольно редкой комбинацией профиля автора:
Он историк и кулинар, то есть он находит какие-то интересные факты из прошлого, истории, и готовит блюда по древним рецептам

Например, вот видео о том как кормили в средневековых тавернах, а вот видео с изготовлением медовухи викингов, вот блюда которые готовили на Титанике (в третьем классе), 500-летний рецепт пиццы, рацион пиратов, накрываем новогодний стол по рецептам древнего Вавилона которым 4000 лет, и там полно похожего

Если любите готовить или историю, очень советую – мне отдельно нравится, что автор изучает рецепты с точки зрения истории и доступных тогда ингредиентов
_______
Источник | #denissexy
@F_S_C_P

Генерируй картинки с ⛵️MIDJOURNEY в Telegram

Ничего себе в телеграмме гроухаки пошли, я все пропустил видимо

(Это описание канала, нет такой фичи в телеграме)
_______
Источник | #denissexy
@F_S_C_P

-------
поддержи канал
-------

Данте нужно обновить и добавить еще один круг ада, для роботов
_______
Источник | #denissexy
@F_S_C_P

Генерируй картинки с ⛵️MIDJOURNEY в Telegram

Помните я недавно писал про статью в Nature, где ученые рассматривали как устроен мыслительный процесс и нужен ли ему язык? Вышло другое исследование, в этот раз про влияние псилоцибина на мозг человека (PDF) — если коротко, как мы уже знаем, в мозге существуют разные поднейронки (это упрощение), каждая из них выполняют какой-то свой набор задач, вот цитата про одну из них:

— Есть «Дефолтная нейронка», активируется когда мозг в покое — связана с кучей когнитивных штук, включая: способность мысленно перемещаться во времени (вспоминая прошлое или представляя будущее), пространственное познание, размышление о себе, своих чертах и опыте. Интересно, что повреждение это «сетки» ведет к депрессии или даже шизофрении (в теории).

Так вот, оказывается псилоцибин, вызывает рассинхронизацию «поднейронок» мозга:

1. Он сильнее всего влияет на «дефолтную нейронку» — видимо именно из-за этого, выходит столько успешных исследований в излечении клинической депрессии (их сотни уже). Дефолтная нейронка, кстати, в том числе отвечает за восприятие времени и пространства — отсюда меняется восприятие времени у трипующих

2. Меняется связность частей мозга — причем, даже спустя несколько недель после трипа, у пациентов все еще наблюдаются десинхронизация разных частей мозга — возможно, этот эффект как раз связан с терапевтическими свойствами псилоцибина которые активно исследуются

3. Псилоцибин очень «усложняет» мозговую активность и делает ее более непредсказуемой — сканы мозга пациента до приема псилоцибина и во время трипа, выглядят как сканы мозга двух разных людей; и чем больше активного вещества, тем сильнее эффект

4. Пациенты могли «ослабить» эффект трипа фокусируясь на выполнении каких-то задач

Не из статьи — люди, которые пробовали грибы, наверное знают, что выходя из трипа, человек как-бы меняется — это уже не совсем та личность, что была до трипа:
Появляется больше эмпатии к живому, появляется больше любви к природе (это частая черта всех практикующих грибы) – просто вспомнил бытовой пример таких перемен.

Еще я видел исследование, где последствия приема волшебных грибов сравнивали с «опытом близкой смерти» (Near Death Experience) — это когда человек был на грани гибели, и после этого сильно изменил свою жизнь, часто встречается у бывших наркоманов / алкоголиков / победивших рак и тп.
А учитывая, сколько много дошло до наших дней ритуалов и обрядов по миру связанных с «волшебными грибами», мне кажется древние люди знали про многие эти свойства.

P.S. Наркотики плохо, не нарушайте законы если это незаконно у вас в стране.

P.P.S. Добавлю, что воспринимаю грибы как серьезный психоделик — не патидраг для вечеринки. Они меняет личность и я искренне не понимаю людей которые часто их употребляют — это химический способ взламывания API мозга, у него могут быть свои бенефиты которые исследуют — но делать это рутинно, бездумно, без рационализации своего «я» в мире — абсолютно не имеет смысла, лучше пивка попить, чем закидывать себе в мозг урановые прутья «прост по фану»
_______
Источник | #denissexy
@F_S_C_P

1 Blum = $0.019:
Попробуй Blum

Мы в такое время удивительное живем – в интернете ренессанс фотожаб, у языковых моделей признаки депрессии и каждый может почувствовать себя в роли тракторной гусеницы

Будущее прекрасно 🥲
_______
Источник | #denissexy
@F_S_C_P

-------
поддержи канал
-------

_______
Источник | #denissexy
@F_S_C_P

1 Blum = $0.019:
Попробуй Blum