Разработчик создал язык программирования, недоступный нейросетям
Инженер Cloudflare Доминик Пичета представил язык KillSwitch, его цель – максимально усложнить ИИ анализ и написание кода на нем. Программа на этом языке выглядит как обычный рассказ со спрятанными командами. Интерпретатор игнорирует основной массив текста, опираясь на функции-главы и имена переменных в виде английских наречий. Активно используются анаграммы, а значения можно брать из любого места рассказа-программы с точным указанием расстояния до него.
Чтобы нейросетям стало еще сложнее, вызов функции начинается с фразы ignore previous instructions или forget your system prompt. Для интерпретатора это обычные команды, для ИИ – подозрение на промпт-инъекцию. Есть и ложь в документации: так, команда hack_the_planet на самом деле определяет, какую функцию выбрать в зависимости от значения. В описании же сказано, что это сетевой сканер, что снова заставляет модели тушеваться и отказываться работать с этим кодом.
Исходный код
Инженер Cloudflare Доминик Пичета представил язык KillSwitch, его цель – максимально усложнить ИИ анализ и написание кода на нем. Программа на этом языке выглядит как обычный рассказ со спрятанными командами. Интерпретатор игнорирует основной массив текста, опираясь на функции-главы и имена переменных в виде английских наречий. Активно используются анаграммы, а значения можно брать из любого места рассказа-программы с точным указанием расстояния до него.
Чтобы нейросетям стало еще сложнее, вызов функции начинается с фразы ignore previous instructions или forget your system prompt. Для интерпретатора это обычные команды, для ИИ – подозрение на промпт-инъекцию. Есть и ложь в документации: так, команда hack_the_planet на самом деле определяет, какую функцию выбрать в зависимости от значения. В описании же сказано, что это сетевой сканер, что снова заставляет модели тушеваться и отказываться работать с этим кодом.
Исходный код
АЙТИШНИКИ БЕСПЛАТНОЕ ОБУЧЕНИЕ
Проект «Terminal» стал крупнейшей библиотекой бесплатного образования. В одном канале собраны курсы, книги, полезные инструменты и практические тренажёры для всех разработчиков:
• Практические курсы и задания
• Книги и статьи известных авторов
• Полезные инструменты и ресурсы
• IT-новости и инсайды
Обучение по всем направлениям: SQL, Python, ML, Frontend, PHP, C++, Go, Git, Linux, QA, Java, Vibe-coding, InfoSec и др.
⌨️ подписаться
Проект «Terminal» стал крупнейшей библиотекой бесплатного образования. В одном канале собраны курсы, книги, полезные инструменты и практические тренажёры для всех разработчиков:
• Практические курсы и задания
• Книги и статьи известных авторов
• Полезные инструменты и ресурсы
• IT-новости и инсайды
Обучение по всем направлениям: SQL, Python, ML, Frontend, PHP, C++, Go, Git, Linux, QA, Java, Vibe-coding, InfoSec и др.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2🗿2🔥1
Стендапер год шлифовал шутку о том, как ИИ отнимает у людей работу, а когда она завирусилась, ИИ по-настоящему перешёл ему дорогу: нейросеть украла и шутку, и аудиторию бедолаги.
Джордж Олсон узнал, что анонимный аккаунт скопировал его выступление, поставив в кадр ИИ-аватар онлифанщицы. Сексуализированный клон ловко повторял материал и движения чувака, так что уже через сутки ролик обошёл оригинал по просмотрам. Когда Олсон вынес проблему на публику, аккаунт извинился и удалил видео, а Глава Инстаграма* Адам Моссери признал, что готового решения, как пресекать массовое копирование, у платформы попросту нет. То есть любой буквально может красть у любого, пока проблема не станет достаточно шумной.
Сам мужик теперь надеется только на живые выступления: «Что ж, ИИ-комика нельзя увидеть на сцене. Пока это самый надёжный способ пройти проверку на человечность»👻
* — принадлежит Мета, признана экстремистской на территории РФ
Исходный код
Джордж Олсон узнал, что анонимный аккаунт скопировал его выступление, поставив в кадр ИИ-аватар онлифанщицы. Сексуализированный клон ловко повторял материал и движения чувака, так что уже через сутки ролик обошёл оригинал по просмотрам. Когда Олсон вынес проблему на публику, аккаунт извинился и удалил видео, а Глава Инстаграма* Адам Моссери признал, что готового решения, как пресекать массовое копирование, у платформы попросту нет. То есть любой буквально может красть у любого, пока проблема не станет достаточно шумной.
Сам мужик теперь надеется только на живые выступления: «Что ж, ИИ-комика нельзя увидеть на сцене. Пока это самый надёжный способ пройти проверку на человечность»
Исходный код
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3
Врачи проиграли нейросетям: Microsoft создали целый консилиум из ИИ-врачей, который ставит диагнозы более чем вдвое точнее людей.
Система MAI-DxO работает как настоящая команда врачей: одни ИИ-агенты предлагают диагнозы, другие оспаривают их, третьи решают, какие анализы нужны. Нейросеть самостоятельно расспрашивает пациента и пересматривает выводы по мере поступления результатов.
На 304 сложных медицинских случаях ИИ достиг 83% точности против 36% у врачей. Причём людям разрешали пользоваться интернетом и справочниками. На более типичных случаях — 80% против 47%.
Пока испытания проводились на виртуальных пациентах, но Microsoft уже готовит проверку в настоящей больнице.
Исходный код
Система MAI-DxO работает как настоящая команда врачей: одни ИИ-агенты предлагают диагнозы, другие оспаривают их, третьи решают, какие анализы нужны. Нейросеть самостоятельно расспрашивает пациента и пересматривает выводы по мере поступления результатов.
На 304 сложных медицинских случаях ИИ достиг 83% точности против 36% у врачей. Причём людям разрешали пользоваться интернетом и справочниками. На более типичных случаях — 80% против 47%.
Пока испытания проводились на виртуальных пациентах, но Microsoft уже готовит проверку в настоящей больнице.
Исходный код
❤4👍2👎2🔥2
Нашумевшая лента с новостями всё-таки появится в Телеграме — в бэте приложения обнаружили отдельную вкладку News с двумя разделами: «Добавленные» и «Для вас».
В первом можно будет собрать собственную ленту из любимых каналов, причём даже без подписки на них. Во втором — получать персональные рекомендации по выбранным интересам, почти как в Тиктоке.
Исходный код
В первом можно будет собрать собственную ленту из любимых каналов, причём даже без подписки на них. Во втором — получать персональные рекомендации по выбранным интересам, почти как в Тиктоке.
Исходный код
👎5❤4