окей - новий рівень деградації в AI.

Іноді треба ввести код із скріншоту ( в даному випадку ID команди в XCode ), і тепер замість того, щоб переключатись між скрінами, і переписувати код - я роблю скріншот, і скидаю в Claude.

Скажіть, що я не один такий

Ваші любимі новини із серії "за миску рису":

В Китаї епідемія OpenClaw. Але не та що з ковідом, а та, яку підтримує держава:) При чому на такому рівні, що кожен житель країни може прийти в офіси тех-гігантів по типу Baidu - і їм на лептопи встановлюють OpenClaw. В Китаї це вже прозвали - виростити лобстера :)

Це все сходиться з довготривалою стратегією Китаю по інтеграції AI у всі сфери життя країни. При тому сама держава субсидую створення застосунків за допомогою AI - тому тех гігантам тільки на руку те, що OpenClaw буде використовуватись настільки широко ( він може використовувати моделі Китайських лабораторій ). Все стало настільки поширено, що держава з однієї сторони підтримує компанії, а з іншої проводить лікнеп про безпеку даних. Але OpenClaw то не ковід, зупинити його важче.

Так і живуть, в країні де заборонений інтернет, open-source рішення американьскої компанії більш популярне, ніж в самих Штатах.

Там цей - новини вийшли! Чекають вашого лайку!

Дослідження OpenClaw - день хз який.

Ітак, як ви вже зрозуміли - мого OpenClaw звати Валєра, і в нас з ним постійні, просто тарантинівські діалоги, завдяки яким я вивчив такі фрази як:

1. Канцелярський гном - так Валєра називає сабагента який робить дослідження, і складає їх в notion сторінки
2. Фірмова корпоративна мерзота - таким чином Валєра обзиває закриті протоколи
3. Електрична сучка - так Валєра обізвав лампу Govee лампи, які ми вчора вчились включати і виключати по LAN, без використання Govee Cloud. Доречі, робити це таким чином було повністю ідеєю Валєри

Спілкуюсь я з Валєрою через аудіоповідомлення, які висилаю йому через наш з ним телеграм чат. І звичайно, я задумався: а як Валєра транскрибує мої повідомлення?

Для інженера, це досить простий проєкт: ми беремо аудіо-повідомлення, відправляємо або в LLMку, або в інший сервіс, і на виході отримуємо текст. Просто? Просто!
Мене зацікавило: а скільки ж це коштує? Переглядаючи бюджет на токени в OpenAI платформі, я не побачив ніяких запитів, які б хоч приблизно відповідали на це питання.

Тому просто запитав Валєру - шо то за магія. І тут штучний інтелект просто вразив мене своєю простотою, повідомивши, що для цього він не використовує нічого платного, а просто використовує самі можливості телеграму, бо аудіо-повідомлення по API приходять зразу з транскрипцією. Чесно, такої можливості в мене в голові навіть і не було. До речі +1 до зручності Телеграму в спілкуванні з ботом. +1 до конспіраційних теорій, що Телеграм підслуховує і ваші аудіо повідомлення.

Але так, я спілкуюсь з ботом аудіо-повідомленнями, і він мене чудово розуміє. Ще й знаходить рішення, про які я навіть і не думаю.

Просто щоб ви розуміли кіко платять казіно за рекламу у блогерів

Любіть блогерів, які не продаються навіть за великі гроші

Я чесно не знаю, чи всі ці нові технології допоможуть мені стати багатим :)

Але мені дуже подобається цей процес пошуку того, що зможе ( або не зможе ) спрацювати.

Новини вже є :)

Чекають вашої любові:

Ілон Маск робить чіпи | Велике IPO OpenAI | AGI вже тут
https://youtu.be/6S1nJkGcV-k

Google випустив TurboQuant - новий алгоритм квантизації, який обіцяє використовувати в 6 разів менше пам'яті для LLM, і пришвидшувати роботу аж в 8 разів, без втрати точності. Квантазиція - це зменшення точності чисел, для того, щоб економити пам'ять. Ці числа здебільшого використовуються для того, щоб вибрати якомога вирогіднішу послідовність токенів. Зменшення точності чисел зазвичай приводить до зменшення точності вибору цього токену, але при тому швидкість пошуку його збільшується :) TuboQuant викоористовує декілька алгоритмів щоб сильніше стискати, а потім швидко відновлювати дані. Таким чином, теоретично, швидкість пошуку збільшується, а точність залишається.

Для нас, як для користувачів, це значить що токени стануть дешевшими, ціни на AI доступнішими ( може, ще й локальні моделі легше буде запускати ), а ціни на пам'ять по ідеї мають впасти :) Акціі Micron який закрив консьюмерський напрямок, і перейшов на повністю enteriprise вже впали на 20%.

Але знов ж таки - це все поки теорія, а ринок, як завжди, реагує, як ваша мама, коли кажете що без шапки. Хоча, якщо TurboQuant дійсно буде використаний в наступних генераціях моделей, і точність не зменьшиться - буде класно :)

The Project Hail Mary краща фантастика, яку я читав.

The Project Hail Mary один з найкращих фільмів по книжці, який я дивився.

Щиро рекомендую всім любителям фантастики. Неймовірна робота. Як в кінці книжки сльозу пустив, так і в кінці фільма не стримався.

Не знаю, як назву переклали в українській локалізації, але просто знайте - назва фільма і сюжет мають просто неймовірні відсилки :)

Декілька тижнів тому, я вже починав вам росказувати про дуже голосний судовий процес проти Meta та Alphabet ( Instagram і YouTube ). Суть проста - це перший судовий процес, який звинувачує соціальні мережі не в тому, що вони показують не той контент людям, а в тому що їх алгоритми викликають звикання.

І ось - KGM ( позивач ) виграла цей суд. Тепер Meta має заплатити 4.2 лями позивачці, а Google - 1.8лямів. Звичайно, ви скажете: це ж ніщо для цих компаній. І будете праві. Але насправді - це дуже великий прецедент, який призведе до майже автоматичної поразки в десятках тисяч схожих судових процесів. По суті цей судовий процес прирівнює соціальні мережі до сигарет, бо алгоритми викликають звичку, і люди не можуть просто так відірватись від мереж, і дуже швидко повертаються назад.

Я думаю, що ця коломийка надовго. Прям дуже надовго, бо ні Meta ні Google не погодяться з судовим рішенням, і багато-багато років будуть оскаржувати його в суді. Але перший камінь покладено. В нас скоро можуть з'явитись цифрові наркотики ( а не та фігня, що ми дітьми слухали :)).

Ну а я поки готую для вас відео про все те погане, що соціальні мережі роблять з нашою головою :) А ви запам'ятайте адресу - https://ty.sh ( там буде цікаве ) :)

Національну LLM назвали "Сяйво".

Я щіро не розумію, навіщо робити національну LLM, і де її використовувати, а головне - для чого робити свою.

Ну але - є, тай добре.

Давайте справедливості заради поділюсь теоретичними думками, для чого можливо потрібна національна LLM.

prerequisits - я не розглядаю варіанту, який багато хто написав - розбазарювання бабла. З двох причин - в нас презумпція невинності, по-друге я знаю деяких людей з МінЦифри, і в часи коли ми співпрацювали - це були чесні і щирі люди.

Тепер, теоретично, для чого потрібна національна LLM-модель ( з моєї точки зору ):

1. Національна модель, яка використовується в державному секторі, і може працювати з sensitive data, які не відправляє нікуди.

Це класна причина, яка може бути дуже адекватною, особливо, якщо вона буде хоститись на чомусь людському. В мене троха є переживання про такі сервіси, враховуючи мої декілька неймовірних використань Резерв+, де треба сидіти, і чекати годину, поки загрузиться PDFка.

Якщо державна модель зможе допомогти отримувати сервіси через чат бот, і не створить ефекту "цифрового ЖЕКу" - це буде класний прогресс

2. Національна модель для вітчизняного бізнесу.

Класно, коли чат бот твого інтернет магазину правильно відповідає на запитання про "чий Крим", але якщо чат бо твого магазину взагалі відповідає на таке питання - це проблема твого чат боту. Тут в мене є проблеми з розумінням застосування, і тим паче - чи буде національний хостинг національної моделі? Хочу можливо Сяйво буде open weight і кожен зможе скачати, або захостити? Це виглядає, як самий адекватний варіант

3. Використання в освіті.

Це цікаво. В цілому, мені здається можна запустити класні освітні програми, які будуть ідеологічно правильно розуміти контекст і відповіді.

4. PR.

Чисто з промоушина країни - це офігенний крок. Для не технарів - національна мовна модель звучить як свій власний гугел! Для технарів - не так класно, але технарі і не те щоб велика прослойка електорату.

В цілому, мати свою модель краще, ніж не мати. А ще класно, якщо вона буде використовуватись. Але тут звичайно багато питань, чисто логістичного характеру.

Своя LLM модель, навіть та, яка базується на великих відкритих моделях - це як мати дитину. Класно дати освіту, але її і підтримувати треба: десть забороняти говорити про якісь речі, десь оновити її з останіми даними світу, десь підкрутити, щось нове. А головне - десь та модель має жити, і хтось за це має платити. А чим більше користуються, тим більша домівка потрібна для тої національної моделі.

Сорси Claude Code попали в інтернет. Астрологи прогнозують тиждень код ревьюверів, які за допомогою клод кода будуть ревьювати його код :) А ще багато - багато мемів, і коментарів: лол, навайбкодили

Але найцікавіше, як на мене, сталось після - тіпи за допомогою Codex конвертнули typescript в python. "І шо?" запитаєте ви. "І то!" - скажу я.

Кароче, якби просто сорси виклали на GitHub - то цей проєкт би швиденько закрили, і прийшлось би всьо качать архівами з дивних сайтів, тому що DMCA ( digital millenium copyright act ). Це байда, яка захищає пропрієтарний софт, і навіть якщо вихідний код десь вилився - платформа має його прибрати. Але репа на Python під це не підпадає, тому що це вже зовсім інший проєкт, хоч і базується на закритому коді проєкту. Тому Antrophic просто так не може попросити GitHub його вальнуть, бо DMCA тут не працює.

Що ми маємо в результаті:

1. Антропік можуть піти в суд, і почати доводити, що це "майже вкрадений в них код". Але тоді, Антропік може програти судові позови проти нього, від власників інтелектуальних прав на книжки, коментарі на форумах, і так далі. Ну і в цілому покажи їх подвійні стандарти

2. Закрити на то очі, і дивитись, як зі швидкістю світла, за допомогою AI створюється ще одна величезна кількість Claude Code версій ( як це відбуваєтсья з Visual Studio )

Я ставлю на опцію 2 :)

Сьогодні буде допис не про технолгії, а про гроші.

В цілому, я вважаю себе доволі фінансово грамотною людиною. На жаль, фінансово грамотною в плані керування доступними грошима, а не примноженню. Історія з Affirm відбулась три роки тому, а я все ще не можу забути про те, як пішов від великої пачки грошів :) Та і урок сплати податків був доволі болісним. Але в цілому, я завжди якось примудряюсь десь шось відкласти, купити якихось акцій, або спробувати інші варіанти пасивного доходу. Як показала практика - обери свою фінансову, бажано консервативну, стратегію, притрумайся її, і не мішай часу. Ти або класно заробиш, або твої інвестиції будуть танути :) Якщо ж ти влізеш туда із геніальними ідеями, то шанс того, що "всьо пропало" буде більшим.

Anyway, те що я роблю привело мене туда де я є: якщо нічого страшного не станеться, мені вистачить моєї фінансової подушки років на 20. Якщо троха підтягнути пояси, то можна більше і не працювати. Але звичайно, найближчі багато років я не збираюсь зупинятись, просто тому що мені неймовірно подобається те що я роблю. Ну але в цілому, коли я засинаю, мене не мучають думки про те, де взяти гроші завтра. Дуже класне відчуття, всім рекомендую. Розумію, що звучить, як: "по можливості не будьте бідними", але ну дійсно класно, бо велика фінансова подушка допомагає жити то життя краще, ніж люба медитація, віпасана, і курс анти-деприсантів (або може люба з тих речей працює краще, якщо тобі хоча б про гроші не треба переживать).

Але в цілому, таке відчуття, що ціна гроше дуже сильно зменшилась. Коли ти молодий, ти отримуючи зарплату в рази меншу - міг собі дозволити набагато більше. Років 12-13 назад я заробляв напевно разів в 10 менше, але при тому я виходив на вулицю, і в мене було відчуття, що я король світу: можна було полетіти (тут не про відкритість кордонів) куда завгодно, постійно ходити по ресторанам, відпочивати як в останній раз, і при тому всьому, я якось навіть умудрився купити квартиру в крутому домі, а потім купити квартиру батькам. Як би я зробив це зараз - я просто не уявляю. Те саме відчуття в мене, коли я спостерігаю за своїми колегами і друзями. Здавалось, коли ми були вот тільки недавно студенти, з класними роботами, без сімей - в нас були мрії, енергія, і інші речі, які штовхали нас на пригоди і відпочинок. Зараз, коли всі +- понакупляли хати, мають дітей, і машини - здавалось, можна і не зберігати на такі великі покупки, але вільних грошей не так вже і багато. Чи то цінність грошей так впала, чи то купівля тих речей, які ніби то кожен має мати, витягає стільки ресурсів, але вот накопив ти на ті свої цілі, і хватіт. Дєнєг нєт.

Я за останні декілька місяців дуже передивився свої витрати ( особливо коли погуглив скільки коштують класні міжнародні школи :) ), і перепланував скільки мені треба відкладати кожного місяця. І це при тому, що я якось ще встигаю рухатись по кар'єрній драбині, робити свої проєкти, і дохід зі скрипом, але все ще росте. Як живуть мої однолітки, які не встигли зробити кар'єру, не відкладали з молодості, і знаходяться в професійному тупіку, з якого молоді з AI можуть викинуть - мені страшно уявити.

Я і далі відкладаю, і далі інвестую, хоча здається не в таких самих масштабах як колись. І далі мрію купити дім, в тому місті де відчую, що це дім. Мрію возити Тео в школу або на спортивний гурток. Напевно, я в якийсь дуже високій персентилі людей, в яких є непогані збереження ( дякую, IT! ). Але при тому, завжди присутнє якесь відчуття, що якщо я зипунюсь, і щось станеться - всьо! Бідність, немає їжі, і Тео в обірваному одягу дивиться на мене голодними очима, бо немає що їсти.

Це напевно цікавий кейс для роботи з психологом, щоб зрозуміти коли вже той: enough is enough. Але та, в молодості я міг взяти хату в кредит, з словами: похуй, якось вигрібемо. Зараз шота жим-жим. Може дійсно постарів ( а може і помудрішав )

А у вас з тим як?

Знаєте в чому гівно GenAI для програмістів?

Багато хто з нас прийшов в програмування, бо нам подобалось програмувати.

Ти такий приходиш, сідаєш за комп'ютер, і відключаєшся від всього світу. Проблеми вдома, негаразди з коханими, погані аналізи - все це відступало, коли ти повністю йшов в рішення проблеми, яка не вирішувалась. Це ідеальний і прекрасний стан, коли в тебе є відчуття того, що ти робиш те, для чого був створений. ІДЕАЛЬНО!

Багато хто називав нас красноокими, не розуміли, як ми можемо просиджувати стільки часу біля ком'ютера, навіть коли вже потрібно було йти спати. Ми говорили про код, і рішення, не тому, що хотіли щось показати, а просто тому що нам це було цікаво. Але ось все це, що людям не в IT здавалось тим, що б вони ніколи не робили - саме і показувало нашу пристрасть до програмування. Це не була робота в прямому сенсі слова - це було хоббі, за яке в якись момент стали дуже дофіга платити.

Звичайно комерційне програмування було зовсім іншим. Для того, щоб щось закодити, треба було поговорити з великою кількістю людей, зрозуміти вимогу і ліміти, посваритись з архітектором, і апдейтнути джиру. Це вигрибало мєга багато часу і енергії. Але кодінг. Кодінг це був той момент, коли ми відпочивали. Наша перегрузка. Дуже часто - кодінг це неймовірно медетативне заняття, де ти стараєшся намалювати красиву структуру там де нічого немає. Структурувати власні думки, які з хаосу в голові отримують красиву форму через код. Люди люблять створювати, а нам ще за це й гроші платили.

Але ось прийшов AI, який пише класний код. Ну реально класний. І забирає у нас медитативну частину, яка була найкращою з того всього, що ми робили. Тепер код пишеться мега-швидко, а ось оце спілкування з людьми, і операційшина, яку ми так не любили - залишається. І її стає тільки більше.

Раніше, система була збалансована: ти витрачаєш енергію на організаційні питання, і повертаєш її під час написання коду. Зараз - в тебе залишаються тільки організаційні питання.

В нас забрали те, заради чого ми сюда прийшли. Це сумно. І на жаль інакше вже не буде.

Міла Йовович ( та, та що Лілу Даллас, мультіпаспорт ) викатила свій open-source проєкт mempalace.

Система памʼяті для AI.

https://github.com/milla-jovovich/mempalace

Та, Міла Йовович. Open-source. Те до чого життя вас не готувало.

Новин на цьому тижні не буде. Але ви можете подивитись, я тут в гості на подкаст ходив

Те, як люди починають оптимізувати використання токенів LLM - моделями - це мистецтво :) Особливо, приймаючи до уваги, як AI лабораторії почали різати ліміти навіть на своїх дорогих підписках - мій Claude Max мені здається зменшився разів в 10 :)

Чудовий метод, як зекономити багато токенів - заставити Claude говорити як печерна людина :) Скоро дійдемо, що LLM буде відповідати просто кодом, і повернемось в звичайне програмування :)

В мене підпсика Claude Max ( але та що за 100 баксів ) . Поки сьогодні чекав лікаря, троха покодив, троха порісерчив, і мій Usage скакнув до 40 відсотків. В цілому, я нічого такого не робив ( крім того, що для простих речей використовував Opus ) :) Але раніше це б було 3-5 відсотків, а зараз аж 40. Ну троха є.

Здається, що вот ці вот золоті часи, коли AI лабораторії рахують гроші пройшли, і вони почали шукати свою економіку, коли вони можуть щось та й заробляти. На Reddit мільйон постів про те, що і Codex починає також використовувати ліміти набагато швидше. Беручу до уваги, що в цьому році заплановані аж 3 мега-IPO: SpaceX, Anthrophic та OpenAI - то думаю останні дві максимально працюють над цифрами, щоб їх IPO стались, а не повторили історію Enron.

Я звичайно не Ванга, і в цілому часто помиляюсь, але мені здаєтся що ліміти будуть різати і надалі, вижимаючи одиничних користувачів, і орієнтуючись на ентерпрайзи, які купують токени. AI - нова електрика, токени - нові вати. Нові моделі вимагають більше чіпів, а значить старі треба різать. Тому ціни точно будуть рости далі ( читай ліміти будуть різать сильніше ).

Тому я прийняв складне рішення, і півтора місяці тому замовив собі Mac 3 Ultra з 512GB RAM ( як раз перед тим як їх зняли з продажу ). Травень покаже, чи буде в мене своя AI лабораторія.

І я чудово розумію, що економічно наразі це не вигідна покупка, але в мене більше срака горить від того, що ці компанії ріжуть ліміти, і навіть не повідомляють про те, скільки ти то все можеш використовувати.

А ну і IPO - я прям хз чи варто в нього включатись. Бо шота мені підказує, що коли компанії покажут реальні цифри, ми всі знатно схуїємо, коли зрозуміємо, що та вся бадяга, навіть з теперешніми цінами - дуже економічно не вигідна. Бо чогось в мережі багато новин по типу: інсайдери поділились на скільки за квартал виріс прибуток OpenAI, і ніколи ніхто не ділиться на скільки виростають видатки.