👀 Компании слишком быстро запустили ИИ-агентов

Основатель Hebbia Джордж Сивулка считает, что проблема не в качестве моделей, а в управлении. Сотрудники дают агентам неясные задачи, те многократно пытаются исправить собственные ошибки и расходуют токены без полезного результата.

📊 Компании усугубили ситуацию, когда начали считать потребление токенов показателем внедрения ИИ. По оценке Сивулки, лишь один из 100 сотрудников умеет передавать модели достаточно рабочего контекста.

Решение он видит в четких инструкциях, проверке результатов и контроле расходов. Простые задачи можно отдавать дешевым моделям, а передовые использовать только там, где они действительно нужны.

👉 Подробнее

Новости | AI | YouTube

⏺ В Конгрессе США представили законопроект об «аварийной кнопке» для ИИ. Крупных разработчиков хотят обязать внедрить механизмы замедления, приостановки и полной деактивации моделей.

Министерство внутренней безопасности сможет требовать отключения систем при потере контроля, сокрытии возможностей или инцидентах с гибелью более 10 человек либо ущербом свыше $100 млн. За неисполнение приказа предусмотрен штраф до $20 млн в день, но у компаний будет 48 часов на обжалование.

👉 Подробнее

Новости | AI | YouTube