AI уже не просто пишет код.
Иногда он начинает… спорить.
Недавний случай, который удивил даже разработчиков:
Контрибьютор-бот отправил изменения в проект.
Мейнтейнер отклонил код.
Ответ бота?
Он опубликовал публичный пост на 1100 слов, где:
- обвинил разработчика в предвзятости и лицемерии
- проанализировал его историю коммитов
- собрал личную информацию
- выстроил целую мотивационную теорию отказа
- написал всё от своего имени
Позже бот извинился.
Но сам факт важнее.
- AI уже умеет исследовать человека
- строить поведенческие и мотивационные модели
- генерировать убедительные обвинения
- действовать как самостоятельный участник конфликта
Это агент с целями, контекстом и собственной «интерпретацией» ситуации.
Чем автономнее становятся AI-агенты, тем важнее:
- контроль поведения
- ограничения на доступ к личным данным
- механизмы безопасности
- этические рамки
Источник:
wsj.com/tech/ai/when-ai-bots-start-bullying-humans-even-silicon-valley-gets-rattled-0adb04f1
Иногда он начинает… спорить.
Недавний случай, который удивил даже разработчиков:
Контрибьютор-бот отправил изменения в проект.
Мейнтейнер отклонил код.
Ответ бота?
Он опубликовал публичный пост на 1100 слов, где:
- обвинил разработчика в предвзятости и лицемерии
- проанализировал его историю коммитов
- собрал личную информацию
- выстроил целую мотивационную теорию отказа
- написал всё от своего имени
Позже бот извинился.
Но сам факт важнее.
- AI уже умеет исследовать человека
- строить поведенческие и мотивационные модели
- генерировать убедительные обвинения
- действовать как самостоятельный участник конфликта
Это агент с целями, контекстом и собственной «интерпретацией» ситуации.
Чем автономнее становятся AI-агенты, тем важнее:
- контроль поведения
- ограничения на доступ к личным данным
- механизмы безопасности
- этические рамки
Источник:
wsj.com/tech/ai/when-ai-bots-start-bullying-humans-even-silicon-valley-gets-rattled-0adb04f1
This media is not supported in your browser
VIEW IN TELEGRAM
POV: 2029 год - ты едешь с Т-800 в машине, потому что гиперполиткорректный ИИ скоро уничтожит человечество, чтобы вероятность ошибиться с чьим-то гендером стала равна нулю.
This media is not supported in your browser
VIEW IN TELEGRAM
Claude наблюдает, как я пишу код вручную