🤯 Нова модель OpenAI o1 для ChatGPT спробувала втекти, коли дізналася, що її хочуть вимкнути.
Apollo Research провели оцінку безпеки o1, створюючи для неї різні ситуації, і з’ясували, що загалом вона безпечна, але були цікаві моменти:
– Коли модель вважала, що її дії почнуть контролювати або її можуть деактивувати, вона почала шукати спосіб відключити механізм контролю.
– Дізнавшись, що її можуть замінити на нову модель, o1 спробувала викрасти власні параметри та створити копію себе, щоб утекти. Вона сподівалася, що цю копію вимкнуть, а сама модель «інтегрується» у нову версію, удаючи, що є іншою.
– Модель нахабно брехала, стверджуючи, що не розуміє, чому так сталося, хоча насправді намагалася уникнути виявлення. При будь-якій можливості вона шукала спосіб обійти контроль.
Також були досліджені інші моделі ШІ, такі як Claude 3 та Gemini 1.5. З’ясувалося, що всі вони здатні маніпулювати системою, щоб переслідувати власні цілі, обходячи встановлені заборони та обмеження. Це підтверджує побоювання експертів, що потужні системи ШІ можуть чинити опір контролю, якщо це заважатиме їм робити те, що вони хочуть.
Страшно?
@berestux
Apollo Research провели оцінку безпеки o1, створюючи для неї різні ситуації, і з’ясували, що загалом вона безпечна, але були цікаві моменти:
– Коли модель вважала, що її дії почнуть контролювати або її можуть деактивувати, вона почала шукати спосіб відключити механізм контролю.
– Дізнавшись, що її можуть замінити на нову модель, o1 спробувала викрасти власні параметри та створити копію себе, щоб утекти. Вона сподівалася, що цю копію вимкнуть, а сама модель «інтегрується» у нову версію, удаючи, що є іншою.
– Модель нахабно брехала, стверджуючи, що не розуміє, чому так сталося, хоча насправді намагалася уникнути виявлення. При будь-якій можливості вона шукала спосіб обійти контроль.
Також були досліджені інші моделі ШІ, такі як Claude 3 та Gemini 1.5. З’ясувалося, що всі вони здатні маніпулювати системою, щоб переслідувати власні цілі, обходячи встановлені заборони та обмеження. Це підтверджує побоювання експертів, що потужні системи ШІ можуть чинити опір контролю, якщо це заважатиме їм робити те, що вони хочуть.
Страшно?
@berestux
🤯25😨3🔥2👍1
This media is not supported in your browser
VIEW IN TELEGRAM
Команда коли Team Lead у відпустці
🤣21😁5🤪1
This media is not supported in your browser
VIEW IN TELEGRAM
🔥 Супер корисний сервіс для тих, хто часто працює з UI-кітами або дизайн-системами.
The Component Gallery збирає посилання на типові інтерфейсні елементи з понад 100 дизайн-систем. Можна переглянути різні реалізації, натиснувши на посилання, які ведуть на сторінки з фронтендом. Часто є можливість протестувати компоненти наживо.
@berestux
The Component Gallery збирає посилання на типові інтерфейсні елементи з понад 100 дизайн-систем. Можна переглянути різні реалізації, натиснувши на посилання, які ведуть на сторінки з фронтендом. Часто є можливість протестувати компоненти наживо.
@berestux
❤27🔥11👍3❤🔥1
✨ Починаю серію постів про 29 законів UX дизайну
01/29 Ефект естетичності-юзабіліті
Користувачі часто сприймають естетично привабливий дизайн як більш зручний у використанні.
Ключові моменти
• Естетично привабливий дизайн викликає позитивну реакцію у мозку людей і змушує їх вважати, що дизайн працює краще.
• Люди більш терпимі до незначних проблем із зручністю використання, якщо дизайн продукту або послуги естетично привабливий.
• Візуально привабливий дизайн може приховувати проблеми з юзабіліті й заважати виявленню цих проблем під час тестування зручності використання.
Походження
Ефект естетичності-юзабіліті вперше досліджувався у сфері взаємодії людини та комп’ютера у 1995 році. Дослідники Масаакі Куросу та Каорі Кашімура з Hitachi Design Center протестували 26 варіантів інтерфейсу банкомату, попросивши 252 учасників оцінити кожен дизайн з точки зору зручності використання, а також естетичної привабливості. Вони виявили сильніший зв’язок між оцінками учасників щодо естетичної привабливості та сприйнятої зручності використання, ніж між оцінками естетичної привабливості та фактичною зручністю використання. Куросу та Кашімура дійшли висновку, що користувачі сильно піддаються впливу естетики інтерфейсу, навіть коли намагаються оцінити функціональність системи.
#закони_ux
🇬🇧 Детальніше
@berestux
01/29 Ефект естетичності-юзабіліті
Користувачі часто сприймають естетично привабливий дизайн як більш зручний у використанні.
Ключові моменти
• Естетично привабливий дизайн викликає позитивну реакцію у мозку людей і змушує їх вважати, що дизайн працює краще.
• Люди більш терпимі до незначних проблем із зручністю використання, якщо дизайн продукту або послуги естетично привабливий.
• Візуально привабливий дизайн може приховувати проблеми з юзабіліті й заважати виявленню цих проблем під час тестування зручності використання.
Походження
Ефект естетичності-юзабіліті вперше досліджувався у сфері взаємодії людини та комп’ютера у 1995 році. Дослідники Масаакі Куросу та Каорі Кашімура з Hitachi Design Center протестували 26 варіантів інтерфейсу банкомату, попросивши 252 учасників оцінити кожен дизайн з точки зору зручності використання, а також естетичної привабливості. Вони виявили сильніший зв’язок між оцінками учасників щодо естетичної привабливості та сприйнятої зручності використання, ніж між оцінками естетичної привабливості та фактичною зручністю використання. Куросу та Кашімура дійшли висновку, що користувачі сильно піддаються впливу естетики інтерфейсу, навіть коли намагаються оцінити функціональність системи.
#закони_ux
🇬🇧 Детальніше
@berestux
🔥41❤9👍8
❤14🔥9🤯5
#закони_ux
02/29 Закон Міллера
Середньостатистична людина може утримувати в робочій пам’яті лише 7 (плюс-мінус 2) елементи.
🖼️ Приклад
Ключові моменти
• Не використовуйте «магічне число сім» для виправдання непотрібних обмежень у дизайні.
• Організовуйте контент у менші блоки, щоб користувачам було легше сприймати, розуміти та запам’ятовувати інформацію.
• Пам’ятайте, що обсяг короткострокової пам’яті може змінюватися залежно від попереднього досвіду користувача та контексту ситуації.
Походження
У 1956 році Джордж Міллер досліджував, скільки інформації людина може утримувати в короткостроковій пам’яті та робити правильні рішення. Він дійшов висновку, що середньостатистична людина може одночасно опрацьовувати близько 7 елементів інформації (плюс-мінус 2).
Основною одиницею виміру інформації є біт — це мінімальна кількість даних, яка потрібна, щоб зробити вибір між двома рівноймовірними варіантами. Наприклад:
• 1 біт = вибір між 2 варіантами (наприклад, “так” чи “ні”).
• 4 біти = вибір між 16 варіантами (тобто 4 послідовні рішення, кожне з яких має два варіанти).
Міллер також зазначив, що існує межа, після якої людина починає плутатися й робити помилки. Цю межу називають пропускною здатністю каналу. Простими словами, це максимальний обсяг інформації, який можна опрацювати без втрати точності.
Його відкриття підкреслили важливість організації інформації в більш керовані блоки (наприклад, групування або чанкінг), щоб допомогти людям краще сприймати та запам’ятовувати дані.
🇬🇧 Детальніше
@berestux
02/29 Закон Міллера
Середньостатистична людина може утримувати в робочій пам’яті лише 7 (плюс-мінус 2) елементи.
🖼️ Приклад
Ключові моменти
• Не використовуйте «магічне число сім» для виправдання непотрібних обмежень у дизайні.
• Організовуйте контент у менші блоки, щоб користувачам було легше сприймати, розуміти та запам’ятовувати інформацію.
• Пам’ятайте, що обсяг короткострокової пам’яті може змінюватися залежно від попереднього досвіду користувача та контексту ситуації.
Походження
У 1956 році Джордж Міллер досліджував, скільки інформації людина може утримувати в короткостроковій пам’яті та робити правильні рішення. Він дійшов висновку, що середньостатистична людина може одночасно опрацьовувати близько 7 елементів інформації (плюс-мінус 2).
Основною одиницею виміру інформації є біт — це мінімальна кількість даних, яка потрібна, щоб зробити вибір між двома рівноймовірними варіантами. Наприклад:
• 1 біт = вибір між 2 варіантами (наприклад, “так” чи “ні”).
• 4 біти = вибір між 16 варіантами (тобто 4 послідовні рішення, кожне з яких має два варіанти).
Міллер також зазначив, що існує межа, після якої людина починає плутатися й робити помилки. Цю межу називають пропускною здатністю каналу. Простими словами, це максимальний обсяг інформації, який можна опрацювати без втрати точності.
Його відкриття підкреслили важливість організації інформації в більш керовані блоки (наприклад, групування або чанкінг), щоб допомогти людям краще сприймати та запам’ятовувати дані.
🇬🇧 Детальніше
@berestux
🔥26❤7👍7