Я сейчас на неделю в Тель-Авиве, по рабочим делам но и погулять тоже есть время. Хотел спросить рекомендаций у вас что можно поделать? музеи, клубы, рестораны, книжные магазины комиксов или левацкой литературы?

Если у вас есть друзья здесь которые могу рассказать-показать про местную жизнь дайте их контакты пожалуйста в ЛС.

Если вы знаете какие либо митапы/семинары по ML / AI, тоже хотел бы узнать.

Спасибо ))

Вот вам офигенный микс чиловый на выходные. Всем хорошего настроения.

Listen to Night Lovers +2 w/ Louis Largo by Night Lovers on


https://on.soundcloud.com/UuwKz

Какой ты хакер сегодня?

PS: нужна такая же классификация но для современного значения слова хакеры в котором его используют в IT индустрии и онлайн культуре twitter/GitHub.

Те кто делают Open source проекты, или проекты по воспроизведению и проверке результатов от академических или индустриальных лабораторий.

А вот (ещё одна) типология хакерства

Сегодня на конференции Французской Ассоциации Политических Наук социолог Феликс Трегер представил свою типологию хакрства. Он выделил 5 основных форм хакерского иллегализма:

1. Находить (и иногда оповещать о) дыры в безопасности (сюда он относит практику phreaking и создание Chaos Computer Club)

2. Разрушать компьютеры и информационные системы, понятые как "инструменты доминирования" (пример - движение луддитов из французской Тулузы CLODO, активных в 1980-1993, уничтоживших компьютерные системы префектуры полиции провинции Haute Garonne и совершивших ряд других громких акций саботажа)

3. Сливать информацию (от Pentagon Papers до Wikileaks)

4. Обеспечивать инфраструктурную автономию для активистов (например, European Counter Network - особенно получившая распространение в Италии, где были хорошо развиты сети социальных центров. Именно эти центры становились "нодами" в сети альтернативной информации - там устанавливались узлы BBS, хостились почтовые сервера, сайты для антифашистских и анархистских коллективов)

5. Обходить интернет-цензуру (пример XS4ALL - читается как "Access for all" - независимый провайдер из Нидерландов, который в 1996 году начал развивать сайты-зеркала для многих коллективов, в частности, для немецких анархистов radikal, чьи публикации забанили, а позже помогали либертарному радио в Белграде развить устойчивую к блокировкам инфраструктуру

6. Блокировать работу вражеских ресурсов (с помощью DDoS-атак). Один из интересных примеров - коллектив electrohippies, которые во время протестов против Саммита в Сиэттле в 1999 году устраивают акцию по блокировке работы сайта ВТО, призвав как можно большее число людей отправлять запросы на их сайт.

7. Взламывать и изменять контент сайтов (пример - атака Anonymous на сайт MIT в память об Аароне Шварце, который был осуждён за "пиратство" за скачивание миллионов статей с сайта Jstore. Ему грозило до 50 лет тюрьмы, и 26-летний хакер предпочёл покончить с собой)

Мы-то с вами, конечно, знаем, что существует множество других форм хакерства - но пусть это будет нашей тайной.

Artificial Intelligence Risk Management Framework (AI RMF 1.0).

Фреймворк от национального института стандартов и технологий США по менеджменту риска AI систем. Интересная первая версия.

NIST имеет опыт в взаимодействии с AI системами, в частности они десятилетиями занимались оценкой массовых систем распознавания лиц.

FTC начинает угрожать generative AI стартапам в своем блоге. Но пока иск не начнут стартапер не перекрестится.

“Are you effectively mitigating the risks? If you decide to make or offer a product like that, take all reasonable precautions before it hits the market. The FTC has sued businesses that disseminated potentially harmful technologies without taking reasonable measures to prevent consumer injury. Merely warning your customers about misuse or telling them to make disclosures is hardly sufficient to deter bad actors. Your deterrence measures should be durable, built-in features and not bug corrections or optional features that third parties can undermine via modification or removal. If your tool is intended to help people, also ask yourself whether it really needs to emulate humans or can be just as effective looking, talking, speaking, or acting like a bot.”

https://www.ftc.gov/business-guidance/blog/2023/03/chatbots-deepfakes-voice-clones-ai-deception-sale

Отлично сказано. На 90% разделяю этот тейк.

Re: We need a more sophisticated debate about AI

The issue with our AI debate is that there's not a single "problem" but many inter-dependent issues without a clear system-wide solution.

- Big tech monopolizing the models, data, and hardware.

- Copyright concerns.

- Job security.

- AIs becoming sentient and causing harm for their own ends.

- Corporations intentionally using AI to cause harm for their own ends.

- Feedback loops will flood the internet with content of unknown provenance, which get included in the next model, etc.

- AI hallucinations resulting in widespread persistent errors that cause an epistemological crisis.

- The training set is inherently biased; human knowledge and perspectives not represented in this set could be systematically wiped from public discourse.

We can have meaningful discussions on each of these topics. And I'm sure we all have a level of concern assigned to each (personally, I'm far more worried about an epistemological crisis and corporate abuse than some AI singularity).

But we're seeing these topics interact in real-time to make a system with huge emergent societal properties. Not sure anyone has a handle on the big picture (there is no one driving the bus!) but there's plenty of us sitting in the passenger seats and raising alarm bells about what we see out our respective little windows.

perrygeo, 4 hours ago

Если у кого то ещё есть вопросы почему "пауза на 6 месяцев в исследовании ИИ" странная и даже глупая затея исходящая из паники а не какой либо логики, советую посмотреть вот этот диалог между парой старых исследователей в ML.
https://www.youtube.com/live/BY9KV8uCtj4

Коротко несколько пунктов:
- нельзя конструировать систему безопасности для чего то что не существует
- увеличение продуктивности - большая ценность
- регулирование работает, маротории не работают

Ну для алармистов тоже есть кое что в этом видео:
"Church said printing press will destroy the world, ... and it did."

Буду скидывать сюда ссылки на проекты с command loop-ами для LLM-ок. Сейчас многие пробуют делать общего агента который использует python интерпретатор и способен писать код для выполнения задач онлайн и делать дальнейшие шаги по запросам. Будем смотреть что выходит.

Конференция по livecoding

Good morning everyone!

The live stream for today will be at: https://www.youtube.com/watch?v=ZzDSW08IAdU (spread the word)
Info on all sessions (and the papers) you can find in the catalogue: https://iclc.toplap.org/2023/catalogue/

Все кто скучают по старому твитеру с хронологической лентой. Вот есть хак с использованием поиска с фильтрами. Вроде неплохо работает.

https://twitter.com/search?q=filter%3Afollows%20-filter%3Areplies&src=typd&f=live

Те с кем общался офлайн, знают что один из моих тейков - работать в ML/AI - ближайшее что есть к экспериментальной эпистемология (методов познания). Создавая разные системы в которых "зашиты" те или иные принципы или методологии познания и давая им возможность взаимодействовать с реальностью в видео данных или доступа к сенсорам/интернету можно увидеть какого рода модели мира они создают. Если раньше ML инженеры и исследователи задавали базовые принципы познания в виде кода или внутренних ограничений, то теперь это вышло на системный уровень, эмулируя в том числе методы познания у людей. Примеры: сократовский метод [1], и критический анализ [2].

Лично для меня это самое интересное что происходит в последнем витке AI весны/хайпа.

[1] https://princeton-nlp.github.io/SocraticAI/

[2] https://twitter.com/DrJimFan/status/1649458857343864833?s=20

"смартфоны делают нас тупее", может лучше "письменность делает нас тупее".

Кажется что даже "тупой" с доступом к текстам от тысячи людей , имеет возможности делать выводы лучше чем, самый "умный" но только разговаривая или получая информацию по цепочке пересказов.

Но зато какой оратор этот чел может быть который не читает а все только через речь или прямой опыт узнал.

Re: When you lose the ability to write, you also lose ...

This reads like Plato's warning (through Socrates' words) 2,400 years ago that writing will make people forgetful:

"For this invention [writing] will produce forgetfulness in the minds of those who learn to use it, because they will not practice their memory. Their trust in writing, produced by external characters which are no part of themselves, will discourage the use of their own memory within them. You have invented an elixir not of memory, but of reminding; and you offer your pupils the appearance of wisdom, not true wisdom, for they will read many things without instruction and will therefore seem to know many things, when they are for the most part ignorant and hard to get along with, since they are not wise, but only appear wise." [1]

[1] Phaedrus 275a-b, http://www.perseus.tufts.edu/hopper/text?doc=Perseus%3Atext%3A1999.01.0174%3Atext%3DPhaedrus%3Asection%3D275a

ly3xqhl8g9, 6 hours ago