🤯 Нова модель OpenAI o1 для ChatGPT спробувала втекти, коли дізналася, що її хочуть вимкнути.

Apollo Research провели оцінку безпеки o1, створюючи для неї різні ситуації, і з’ясували, що загалом вона безпечна, але були цікаві моменти:

– Коли модель вважала, що її дії почнуть контролювати або її можуть деактивувати, вона почала шукати спосіб відключити механізм контролю.

– Дізнавшись, що її можуть замінити на нову модель, o1 спробувала викрасти власні параметри та створити копію себе, щоб утекти. Вона сподівалася, що цю копію вимкнуть, а сама модель «інтегрується» у нову версію, удаючи, що є іншою.

– Модель нахабно брехала, стверджуючи, що не розуміє, чому так сталося, хоча насправді намагалася уникнути виявлення. При будь-якій можливості вона шукала спосіб обійти контроль.

Також були досліджені інші моделі ШІ, такі як Claude 3 та Gemini 1.5. З’ясувалося, що всі вони здатні маніпулювати системою, щоб переслідувати власні цілі, обходячи встановлені заборони та обмеження. Це підтверджує побоювання експертів, що потужні системи ШІ можуть чинити опір контролю, якщо це заважатиме їм робити те, що вони хочуть.

Страшно?

@berestux

🎄Вайбова різдвяна фіча на ШІ фотостоці
www.lummi.ai

@berestux

Команда коли Team Lead у відпустці

🔥 Супер корисний сервіс для тих, хто часто працює з UI-кітами або дизайн-системами.

The Component Gallery збирає посилання на типові інтерфейсні елементи з понад 100 дизайн-систем. Можна переглянути різні реалізації, натиснувши на посилання, які ведуть на сторінки з фронтендом. Часто є можливість протестувати компоненти наживо.

@berestux

✨ Починаю серію постів про 29 законів UX дизайну

01/29 Ефект естетичності-юзабіліті
Користувачі часто сприймають естетично привабливий дизайн як більш зручний у використанні.

Ключові моменти
• Естетично привабливий дизайн викликає позитивну реакцію у мозку людей і змушує їх вважати, що дизайн працює краще.
• Люди більш терпимі до незначних проблем із зручністю використання, якщо дизайн продукту або послуги естетично привабливий.
• Візуально привабливий дизайн може приховувати проблеми з юзабіліті й заважати виявленню цих проблем під час тестування зручності використання.

Походження
Ефект естетичності-юзабіліті вперше досліджувався у сфері взаємодії людини та комп’ютера у 1995 році. Дослідники Масаакі Куросу та Каорі Кашімура з Hitachi Design Center протестували 26 варіантів інтерфейсу банкомату, попросивши 252 учасників оцінити кожен дизайн з точки зору зручності використання, а також естетичної привабливості. Вони виявили сильніший зв’язок між оцінками учасників щодо естетичної привабливості та сприйнятої зручності використання, ніж між оцінками естетичної привабливості та фактичною зручністю використання. Куросу та Кашімура дійшли висновку, що користувачі сильно піддаються впливу естетики інтерфейсу, навіть коли намагаються оцінити функціональність системи.
#закони_ux

🇬🇧 Детальніше

@berestux