все слышали про новости про злой ИИ, и то, где и как это обсуждают. бывший исследователь ОпенАИ и Антропик Джейкоб Коксон в видео рассказывает про рабочие слаки инженеров. говорят, мол, текущие модели безопасны, никто не паникует. ага, пока. инженеры на полном серьёзе переписываются: «как думаешь, сможет ИИ в следующем году создать вирус, который нас всех убьёт? или взломать критическую инфраструктуру?» и это не треш-стрим, а корпоративный чат 😖 в чате разработчиков и ответственных за безопасность, Карл!

🐵 Код нашего разума

я долго думал, верить или не верить моделькам на облаке типа антропиков или опенаи в части сбора моей чувствительной информации, типо отключил передачу данных в чатах с ИИ, и мои секреты в безопасности. а потом прочитал, что модераторы всё равно видят переписку. даже если галочка снята.

и в недавнем хайпе с решением математической задачи навье-стокса есть нюансы (пока уточняются), но типо основные исследователи коммуницировали с гпт развивая гипотезу, а эта история чата ушла модерам в т.ч. для пере использования. ждём что скажут, а пока...

предлагаю почитать разбор от сloud.ru на хабре, оч хорошая и важная тема!!!

конфиденциальность данных

мой личный выход – перестать параноить и начать действовать. во-первых, стараюсь маскировать данные: вместо реальных имён и номеров ставлю {заглушки}. во-вторых, удаляю длинные чаты, чтобы не кормить модель лишним контекстом. и главное – перетащить на локальную олламу, но это не у всех под рукой к сожалению, вообще это моя мечта запустить 32B модельку локально и юзать её в своих целях.

в сухом остатке: полной приватности не существует, но когда ты сам контролируешь модель, исчезает чувство, что твои запросы улетают в чей-то корпоративный облачный рай. а это уже половина спокойствия. 🫤.

🐵 Код нашего разума

Скажите мне кто нибудь как отличать ИИ видосы от обычных!!!

Аааа, это вот настоящее или нет?😁

альтман уже делит шкуру неубитого дата-центра

сэм альтман говорит, что вычисления станут самой ценной валютой мира. звучит мощно, пока не спросишь, где брать электричество – как будто забыли включить вилку в розетку. он и сам признаёт: энергия и стройка дата-центров это самое сложное. вспоминаем, что биткоин задумывался как элемент обмена результатом добытой энергии (интересно - будет ли синергия с криптой)

мне кажется, мы опять бежим впереди паровоза. сначала придумали спрос, которого не осознать, а розетку под него ещё не нашли 🤣

🐵 Код нашего разума

рофляночка летит к нам. биооружие заказывали?

читаю отчёт антхропик и ловлю себя на мысли: ну вот, дождались. пять случаев, когда Клод пытались использовать для исследований, от которых реально не по себе. не просто «напиши вредный совет», а прям методички по биологии с душком. прямо как рецепт, только вместо курицы – человечество, как всегда ответ - в чьих руках инструмент.

дураков везде хватает. а то, как спокойно это подаётся. мол, выявили, пресекли, работаем дальше. а если бы не выявили? 😳 и сколько таких как они - оч интересно.

пока не верю, что фильтры спасут от тех, кто реально шарит. кажется, это гонка брони и снаряда, только ставки совсем не игрушечные. и если обычно в таких гонках побеждает тот, кто быстрее, то тут проигрывают все, кто медленнее.

🐵 Код нашего разума

✅ Ола, персонас! (Hola, personas!)

Осенние вечера, так много забот…
Ставь лайк, если хочешь как обезьянка чиллить в халатике после спа процедур

🐵 Код нашего разума - Следим за миром ИИ без лишней суеты.

❤️ / ✈️ - лучший способ помочь проекту.

начну с лозунга - ии выращивают, а не программируют.

интересно почитать мысли людей приближенных к исследовательским группам фронтира,
так вот научный руководитель OpenAI Якуб Пахоцкий опубликовал пространное эссе с рассуждением о состоянии всей индустрии искусственного интеллекта. Главная мысль Пахоцкого: по мере того как модели становятся умнее, они вносят все больший вклад в разработку будущих вариантов ИИ, а человеку остается все меньше места.

Пересказ от Медуза
Оригинал ОпенАИ

походу мысли объясняют, почему тот же чатгпт ведёт себя так непредсказуемо. мы привыкли думать, что внутри – какая то логика всё таки имеется, а там скорее биология. алгоритмы удобряют, данные поливают, а на выходе получается что-то с собственным характером. прямо как огурец на грядке: вроде поливал одинаково, а один вырос кривой. провокационно однако, но не буду придерживатсья этой позиции, я не на столько умён, чтобы на счет этого сегодня дискутировать, можете написать своё мнение.

короче пора откладывать на загородный домик и учитсья полоть грядки с этим развитием ии

🐵 Код нашего разума

Начнем недельку!

Помните видосы с бостон дайнамикс, с учетом новостей, что иишки взламывают контуры другу друга и другие сайты, можем себе представить и такую картину 😁

🐵 Код нашего разума

сша и китай договариваются не отдавать ядерную кнопку ии.

кто вообще в здравии и сознании будет обсуждать предоставление доступа к «кнопке» инструменты с вероятностной оценкой и смещением?

как оказалось - эксперты из брукингса и фуданьского университета выкатили совместные «красные линии»: никакой автономии в пуске ракет и атаках на системы командования. человек должен оставаться последним звеном. вроде база. но когда читаешь про предложение создать горячую линию для ии-инцидентов, сразу вспоминаешь, как китайская сторона просто не взяла трубку америки во время шпионского аэростата в 23-м – видимо, решили, что это спам-звонок 🙃

в сухом остатке: системы пво и без того работают на полуавтомате, потому что скорость реакции критична. как в этой гонке вшить бюрократический «человеческий контроль», если автоматический ответ на подозрительную активность одна сторона сочтёт началом атаки? а дозваниваться и объяснять, что «это баг», будет поздно – оператор на том конце уже будет пить успокоительное.

тут прикол в чём. мы пытаемся договориться о правилах игры, где логика взаимного недоверия перемалывает любой договор. пока политики сверяют определения «контроля», инженеры пилят софт. реальная гарантия не в запрете на код, а в отсутствии повода нажать на кнопку. а пока его нет, остаётся надеяться, что у дежурного на том конце провода не включён автоответчик с голосом «вызывающему абоненту – ядерный гриб».

🐵 Код нашего разума

Такое нейротворчество мы смотрим)) выглядит очень залипательно)

🐵 Код нашего разума

в нулевых «информатика» была священным часом, когда мы рисовали в пэйнте и верили, что уметь вставить картинку в ворд – это билет в будущее 🤪 теперь смотрю на доклад центра образовательных исследований оэср и ловлю чёткое ощущение: мы опять застряли – как тот самый скрепыш, который застрял в настройках печати и не знает, как вылезти

пока школы гонятся за баллами, реальный мир подсунул нам экзаменатора, которому плевать на почерк. алгоритм оценит не то, как ты пересказал параграф, а способность пересобрать себя за выходные – прямо как после неудачного обновления виндовс, только без кнопки «откатить»

я не знаю, заменит ли ии рабочих, но он точно обесценит тех, кто умеет только выдавать результат и не задавать вопросов

проблема не в самом искусственном интеллекте, а в том, что «навык учиться» до сих пор в школьном табеле не значится. и это при том, что чатгпт уже пишет сочинения, а ты ещё помнишь, как учительница говорила «телефон достанешь только в столовой» 🧐 – сейчас бы она добавила: «и попроси его написать тебе доклад про фотосинтез»

короче, пока мы ностальгируем по скрепкам-помощникам, оэср тихо фиксирует разрыв. готовить детей к миру, который исчез, – так себе стратегия, но это всё ещё наша суровая реальность.

🐵 Код нашего разума