Процес роботи системи включає декілька ключових етапів:
1. Перед увімкненням комп'ютера: Необхідні інструкції для завантаження системи зазвичай зберігаються в постійній пам'яті, такій як ROM або сучасніший еквівалент – флеш-пам'ять. Ця пам'ять містить базову систему вводу/виводу (BIOS або UEFI), яка керує процесом завантаження комп'ютера.
2. Під час увімкнення: BIOS або UEFI виконує POST (Power-On Self Test), перевіряє основне обладнання, а потім ініціює завантаження операційної системи з жорсткого диску, SSD або іншого носія.
3. Завантаження операційної системи: ОС разом зі своїми компонентами завантажується в оперативну пам'ять (RAM), яка надає швидкий доступ до інструкцій та даних, що активно використовуються.
4. Виконання програм: Програми та їхні інструкції завантажуються в RAM, де процесор може швидко їх читати та виконувати.
Важливо відзначити роль різних рівнів кеш-пам'яті в процесорі (L1, L2, L3), які забезпечують ще швидший доступ до найчастіше використовуваних даних та інструкцій.
#ComputerScience
1. Перед увімкненням комп'ютера: Необхідні інструкції для завантаження системи зазвичай зберігаються в постійній пам'яті, такій як ROM або сучасніший еквівалент – флеш-пам'ять. Ця пам'ять містить базову систему вводу/виводу (BIOS або UEFI), яка керує процесом завантаження комп'ютера.
2. Під час увімкнення: BIOS або UEFI виконує POST (Power-On Self Test), перевіряє основне обладнання, а потім ініціює завантаження операційної системи з жорсткого диску, SSD або іншого носія.
3. Завантаження операційної системи: ОС разом зі своїми компонентами завантажується в оперативну пам'ять (RAM), яка надає швидкий доступ до інструкцій та даних, що активно використовуються.
4. Виконання програм: Програми та їхні інструкції завантажуються в RAM, де процесор може швидко їх читати та виконувати.
Важливо відзначити роль різних рівнів кеш-пам'яті в процесорі (L1, L2, L3), які забезпечують ще швидший доступ до найчастіше використовуваних даних та інструкцій.
#ComputerScience
❤3
У нас скоро з’явиться новий браузер! 🛍
Здається, OpenAI вирішили, що потрібно отримати прямий доступ до того, як користувач взаємодіє з Інтернетом. Адже ви ж чули, що дані для навчання великих мовних моделей (LLM) закінчилися… в відкритому Інтернеті. А браузер може дати доступ до закритого Інтернету. Тобто того Інтернету, що за паролем — в приватних листах і документах.
Для цього вони переманили у Google вже 85 інженерів та одного найголовнішого віце-президента з інженерії, який допоміг розвинути Chrome, а потім працював над Arc Browser.
Звісно, поки що це все лише спекуляції на основі випадкових збігів, але цьому головному спеціалісту запропонували $10 млн на рік, а нічого, крім браузерів, він не очолював.
We’ll soon have a new browser!🛍
It seems like OpenAI has decided they need direct access to how users interact with the internet. You know, since they’ve run out of data to train large language models (LLMs)… in the open internet. And a browser can provide access to the closed internet. That is, the internet behind passwords — in private emails and documents.
To make this happen, they’ve poached 85 engineers from Google and one very important VP of Engineering, who helped boost Chrome and later worked on Arc Browser.
Of course, this is all speculation based on random coincidences, but they offered this top guy $10M per year, and the only thing he’s led is browsers.
Здається, OpenAI вирішили, що потрібно отримати прямий доступ до того, як користувач взаємодіє з Інтернетом. Адже ви ж чули, що дані для навчання великих мовних моделей (LLM) закінчилися… в відкритому Інтернеті. А браузер може дати доступ до закритого Інтернету. Тобто того Інтернету, що за паролем — в приватних листах і документах.
Для цього вони переманили у Google вже 85 інженерів та одного найголовнішого віце-президента з інженерії, який допоміг розвинути Chrome, а потім працював над Arc Browser.
Звісно, поки що це все лише спекуляції на основі випадкових збігів, але цьому головному спеціалісту запропонували $10 млн на рік, а нічого, крім браузерів, він не очолював.
We’ll soon have a new browser!
It seems like OpenAI has decided they need direct access to how users interact with the internet. You know, since they’ve run out of data to train large language models (LLMs)… in the open internet. And a browser can provide access to the closed internet. That is, the internet behind passwords — in private emails and documents.
To make this happen, they’ve poached 85 engineers from Google and one very important VP of Engineering, who helped boost Chrome and later worked on Arc Browser.
Of course, this is all speculation based on random coincidences, but they offered this top guy $10M per year, and the only thing he’s led is browsers.
Please open Telegram to view this post
VIEW IN TELEGRAM
1❤2🔥1
This media is not supported in your browser
VIEW IN TELEGRAM
Тест продуктивності показав, наскільки швидко різні мови виконують задачу 1 мільярд вкладених ітерацій.
Python демонструє вкрай низьку продуктивність для таких задач через відсутність JIT-компіляції та слабку оптимізацію вкладених циклів. Це вкотре підтверджує, що Python більше підходить для швидкого прототипування, аніж для високопродуктивних обчислень.
Тоді можна дати коротку відповідь щодо того чому Python широко використовується для розробки моделей LLM та AI. Завдяки своїй простоті, читабельності та розвиненій екосистемі бібліотек, таких як TensorFlow, PyTorch і Hugging Face Transformers. При цьому основні обчислення виконуються високопродуктивними бібліотеками, написаними на C/C++ або CUDA, тоді як Python забезпечує інтерфейс для взаємодії та управління обчислювальними процесами. Це дозволяє поєднувати зручність програмування з високою продуктивністю низькорівневих обчислень.
The performance benchmark demonstrated how efficiently various programming languages execute the task of 1 billion nested loop iterations.
Python exhibits extremely low performance for such tasks due to the lack of JIT compilation and poor optimization of nested loops. This once again highlights that Python is better suited for rapid prototyping rather than high-performance computations.
A concise explanation can be given as to why Python is widely used for developing LLMs and AI models. Its simplicity, readability, and robust ecosystem of libraries, such as TensorFlow, PyTorch, and Hugging Face Transformers, make it an ideal choice. Moreover, the core computations are offloaded to high-performance libraries written in C/C++ or CUDA, while Python serves as an interface for interaction and orchestration. This combination allows developers to leverage the convenience of Python programming alongside the performance of low-level computations.
Python демонструє вкрай низьку продуктивність для таких задач через відсутність JIT-компіляції та слабку оптимізацію вкладених циклів. Це вкотре підтверджує, що Python більше підходить для швидкого прототипування, аніж для високопродуктивних обчислень.
Тоді можна дати коротку відповідь щодо того чому Python широко використовується для розробки моделей LLM та AI. Завдяки своїй простоті, читабельності та розвиненій екосистемі бібліотек, таких як TensorFlow, PyTorch і Hugging Face Transformers. При цьому основні обчислення виконуються високопродуктивними бібліотеками, написаними на C/C++ або CUDA, тоді як Python забезпечує інтерфейс для взаємодії та управління обчислювальними процесами. Це дозволяє поєднувати зручність програмування з високою продуктивністю низькорівневих обчислень.
The performance benchmark demonstrated how efficiently various programming languages execute the task of 1 billion nested loop iterations.
Python exhibits extremely low performance for such tasks due to the lack of JIT compilation and poor optimization of nested loops. This once again highlights that Python is better suited for rapid prototyping rather than high-performance computations.
A concise explanation can be given as to why Python is widely used for developing LLMs and AI models. Its simplicity, readability, and robust ecosystem of libraries, such as TensorFlow, PyTorch, and Hugging Face Transformers, make it an ideal choice. Moreover, the core computations are offloaded to high-performance libraries written in C/C++ or CUDA, while Python serves as an interface for interaction and orchestration. This combination allows developers to leverage the convenience of Python programming alongside the performance of low-level computations.
2❤1
На світі існує 10 типів людей: ті, хто розуміють двійкову систему числення, і ті, хто не розуміють
1😁3
Одним із великих проєктів цього року для мене є написання посібника (або навіть книги!) з Computer Science. Це буде детальний ресурс для тих, хто хоче заглибитися у фундаментальні аспекти компʼютерних наук.
Але, як ви розумієте, такий проєкт вимагає багато часу. Тому паралельно я хочу створювати контент, який буде корисним для вас тут, на цьому каналі.
💡 Ваша допомога: пишіть у коментарях теми, які вас цікавлять! Що ви хочете краще зрозуміти? Можливо, алгоритми, архітектура, системне програмування, або щось інше? Я обов’язково врахую ваші побажання!
Але, як ви розумієте, такий проєкт вимагає багато часу. Тому паралельно я хочу створювати контент, який буде корисним для вас тут, на цьому каналі.
💡 Ваша допомога: пишіть у коментарях теми, які вас цікавлять! Що ви хочете краще зрозуміти? Можливо, алгоритми, архітектура, системне програмування, або щось інше? Я обов’язково врахую ваші побажання!
1❤1👍1
Nvidia CEO Jensen Huang анонсував нове сімейство Blackwell GPUs на CES 2025, серед яких модель 5090 буде коштувати $1999
❤2
NVIDIA Digits – AI-суперкомп’ютер на долоні
NVIDIA представила Digits – мініатюрний суперкомп’ютер, який легко поміститься на вашій долоні.
Усередині – потужний чіп Grace Blackwell із продуктивністю в 1 петафлоп (FP4), 128 ГБ пам’яті, спільної для процесора та графіки, і 20 ядер ARM. Він “потягне” AI-моделі до 200 млрд параметрів. А якщо об’єднати дві такі “крихітки”, можна запускати навіть більші моделі.
Стартова ціна – $3000, реліз у травні 2025 року.
NVIDIA представила Digits – мініатюрний суперкомп’ютер, який легко поміститься на вашій долоні.
Усередині – потужний чіп Grace Blackwell із продуктивністю в 1 петафлоп (FP4), 128 ГБ пам’яті, спільної для процесора та графіки, і 20 ядер ARM. Він “потягне” AI-моделі до 200 млрд параметрів. А якщо об’єднати дві такі “крихітки”, можна запускати навіть більші моделі.
Стартова ціна – $3000, реліз у травні 2025 року.
❤2
Смішки, смішками, але що може врятувати ЄС на мою думку у якій союз відстав на десятиліття:
1. Скасувати податки для малого тех сектора. 0% податку до чистого прибутку щонайменше у мільйон євро на рік, далі — прогресивну систему, де максимальна ставка не перевищує 20%. Також додати продаж ліцензії на компанію за 5–10 тисяч доларів на рік — та й все. Якщо не помиляюсь так зробили в ОАЕ. Корпоративні податки в ЄС жахливі: 20–40% — жоден ентузіаст не створить тут свій бізнес, це божевілля! Тому вони й тікають в США, OAE.
2. Припинити захищати ледарів з громадянством ЄС. IT-стартапи та інноваційні проекти залежать від міжнародних талантів. Бюрократія ЄС (1 рік на отримання дозволу на роботу) робить його непривабливим для світових спеціалістів. Наприклад, засновник Telegram Павло Дуров не зміг розвивати проект у Німеччині через ці бар’єри. Для порівняння: в ОАЕ процес займає 2 тижні. Без змін Європа ризикує залишитися на узбіччі технологічного прогресу
3. Інвестиції в наукові дослідження замість годування людей "соціалкою" заради їхніх голосів на виборах. США закидають наукові лабораторії та стартапи грошима — і ось результат. ЄС вирішив витрачати ці кошти на сім’ї з Близького Сходу. Союз досі далеко не єдине економічне ціле: спільного ринку, як у США, немає. Також, різке скорочення міжнародних витрат на дріб’язки. Мільярди євро податків йдуть на незрозумілі речі замість інвестицій у дослідження.
Все це важко реалізувати, бо Європа — заручник бюрократії . Вона загнала себе в кут технологічної стагнації. Непопулярні реформи, які дадуть довгострокові перспективи, позбавлять політичної кар’єри тих, хто їх проводитиме.
2. Припинити захищати ледарів з громадянством ЄС. IT-стартапи та інноваційні проекти залежать від міжнародних талантів. Бюрократія ЄС (1 рік на отримання дозволу на роботу) робить його непривабливим для світових спеціалістів. Наприклад, засновник Telegram Павло Дуров не зміг розвивати проект у Німеччині через ці бар’єри. Для порівняння: в ОАЕ процес займає 2 тижні. Без змін Європа ризикує залишитися на узбіччі технологічного прогресу
3. Інвестиції в наукові дослідження замість годування людей "соціалкою" заради їхніх голосів на виборах. США закидають наукові лабораторії та стартапи грошима — і ось результат. ЄС вирішив витрачати ці кошти на сім’ї з Близького Сходу. Союз досі далеко не єдине економічне ціле: спільного ринку, як у США, немає. Також, різке скорочення міжнародних витрат на дріб’язки. Мільярди євро податків йдуть на незрозумілі речі замість інвестицій у дослідження.
Все це важко реалізувати, бо Європа — заручник бюрократії . Вона загнала себе в кут технологічної стагнації. Непопулярні реформи, які дадуть довгострокові перспективи, позбавлять політичної кар’єри тих, хто їх проводитиме.
❤3
«Якщо моя теорія відносності виявиться правильною, то німці скажуть, що я — німець, а французи — що я — громадянин світу. Якщо ж моя теорія виявиться хибною, то французи скажуть, що я — німець, а німці — що я — єврей.»
— Альберт Ейнштейн
— Альберт Ейнштейн
1
Reverse engineering Apple USB-C controller and JTAG access
📌 Переглянув виступ Stacksmashing на DEF CON 32: From getting JTAG on the iPhone 15 to hacking Apple’s USB-C Controller. Доповідь присвячена низькорівневому аналізу апаратної безпеки в сучасних мобільних пристроях.
Ключовий об’єкт дослідження — пропрієтарний USB-C controller від Apple, відповідальний за енергоживлення та автентифікацію аксесуарів. Попри шифровану прошивку і захисні механізми, автору вдалося:
• отримати дамп прошивки з фізичного пристрою,
• частково відновити інструкційний набір (ISA) контролера,
• модифікувати комерційний USB-C адаптер для ін’єкції власного коду,
• обійти захисти на рівні BootROM через fault injection,
• отримати доступ до JTAG-портів системи-на-чипі (A17 SoC).
Підхід показує, як можливо виявити апаратні вектори атаки навіть у комерційних пристроях із високим рівнем інтеграції та захисту. Цінним є також підхід до аналізу закритих мікроконтролерів і обхід обфускації без спеціалізованих інструментів.
📚 YouTube — DEF CON 32: Stacksmashing
📌 Переглянув виступ Stacksmashing на DEF CON 32: From getting JTAG on the iPhone 15 to hacking Apple’s USB-C Controller. Доповідь присвячена низькорівневому аналізу апаратної безпеки в сучасних мобільних пристроях.
Ключовий об’єкт дослідження — пропрієтарний USB-C controller від Apple, відповідальний за енергоживлення та автентифікацію аксесуарів. Попри шифровану прошивку і захисні механізми, автору вдалося:
• отримати дамп прошивки з фізичного пристрою,
• частково відновити інструкційний набір (ISA) контролера,
• модифікувати комерційний USB-C адаптер для ін’єкції власного коду,
• обійти захисти на рівні BootROM через fault injection,
• отримати доступ до JTAG-портів системи-на-чипі (A17 SoC).
Підхід показує, як можливо виявити апаратні вектори атаки навіть у комерційних пристроях із високим рівнем інтеграції та захисту. Цінним є також підхід до аналізу закритих мікроконтролерів і обхід обфускації без спеціалізованих інструментів.
📚 YouTube — DEF CON 32: Stacksmashing
Go, HTTP і продуктивність без магії
Почав із продуктивності — порівняв net/http і Fiber (fasthttp) в реальному бенчмарку.
Зробив два HTTP-сервери з одним маршрутом /ping:
1️⃣ net/http
— чистий Go
— ручне управління буфером (var buf [64]byte)
— 0 heap allocations per request
— простий, стабільний
2️⃣ Fiber
— на fasthttp
— максимально low-level
— вищий RPS, менше абстракцій
🔬 Результат бенчмарку (hey -n 100000 -c 100) (на скріншоті)
🧠 Висновки:
• Fiber дійсно швидший (~30% на цьому тесті)
• Але net/http з оптимізаціями — дуже близько
• У складних сценаріях (JSON, TLS, middleware) перевага Fiber згасає
• net/http краще інтегрується з Go-екосистемою та підтримує HTTP/2
Не здаюсь — копаю далі. Чим глибше, тим цікавіше. Можливо, вийде щось краще...
Почав із продуктивності — порівняв net/http і Fiber (fasthttp) в реальному бенчмарку.
Зробив два HTTP-сервери з одним маршрутом /ping:
1️⃣ net/http
— чистий Go
— ручне управління буфером (var buf [64]byte)
— 0 heap allocations per request
— простий, стабільний
2️⃣ Fiber
— на fasthttp
— максимально low-level
— вищий RPS, менше абстракцій
🔬 Результат бенчмарку (hey -n 100000 -c 100) (на скріншоті)
🧠 Висновки:
• Fiber дійсно швидший (~30% на цьому тесті)
• Але net/http з оптимізаціями — дуже близько
• У складних сценаріях (JSON, TLS, middleware) перевага Fiber згасає
• net/http краще інтегрується з Go-екосистемою та підтримує HTTP/2
Не здаюсь — копаю далі. Чим глибше, тим цікавіше. Можливо, вийде щось краще...
Please open Telegram to view this post
VIEW IN TELEGRAM