Microsoft Tay став расистом за 24 години
Microsoft запустив Tay — чатбота в Twitter, який вчився з розмов з користувачами. За 16 годин координований тролінг перетворив Tay на бота, який заперечував Голокост і генерував расистський контент. Microsoft назвав це 'критичним упущенням' у дизайні бота.
#чатбот | The Verge
Джерело
Microsoft запустив Tay — чатбота в Twitter, який вчився з розмов з користувачами. За 16 годин координований тролінг перетворив Tay на бота, який заперечував Голокост і генерував расистський контент. Microsoft назвав це 'критичним упущенням' у дизайні бота.
#чатбот | The Verge
Джерело
AI Amazon для найму дискримінував жінок
Amazon створив AI-інструмент для найму, натренований на резюме за 10 років — переважно від чоловіків. Система навчилася занижувати оцінки резюме зі словом 'women's' і випускниць жіночих коледжів. Amazon закрив проект після невдалих спроб зробити його гендерно нейтральним.
#найм | Reuters
Джерело
Amazon створив AI-інструмент для найму, натренований на резюме за 10 років — переважно від чоловіків. Система навчилася занижувати оцінки резюме зі словом 'women's' і випускниць жіночих коледжів. Amazon закрив проект після невдалих спроб зробити його гендерно нейтральним.
#найм | Reuters
Джерело
Інженери Samsung злили секрети чіпів через ChatGPT
Інженери Samsung вставляли конфіденційний вихідний код і нотатки внутрішніх зустрічей у ChatGPT для допомоги з дебагом. Компанія виявила щонайменше три окремі інциденти витоку даних про чіпи на сервери OpenAI протягом кількох тижнів після дозволу використовувати ChatGPT.
#workplace | TechCrunch
Джерело
Інженери Samsung вставляли конфіденційний вихідний код і нотатки внутрішніх зустрічей у ChatGPT для допомоги з дебагом. Компанія виявила щонайменше три окремі інциденти витоку даних про чіпи на сервери OpenAI протягом кількох тижнів після дозволу використовувати ChatGPT.
#workplace | TechCrunch
Джерело
Юрист подав у суд фейкові посилання від ChatGPT
Нью-йоркський юрист Стівен Шварц використав ChatGPT для дослідження справи і подав документ з шістьма повністю вигаданими судовими справами. Фейкові справи з вигаданими суддями і рішеннями виявила протилежна сторона. Штраф — $5 000.
#юридичне | New York Times
Джерело
Нью-йоркський юрист Стівен Шварц використав ChatGPT для дослідження справи і подав документ з шістьма повністю вигаданими судовими справами. Фейкові справи з вигаданими суддями і рішеннями виявила протилежна сторона. Штраф — $5 000.
#юридичне | New York Times
Джерело
Tesla Autopilot постійно врізається в аварійні автомобілі
NHTSA розслідувала щонайменше 16 випадків, коли Tesla на автопілоті врізалася в нерухомі аварійні машини з мигалками на місцях ДТП. AI постійно не розпізнавав зупинені пожежні машини, карети швидкої допомоги та поліцейські авто як перешкоди.
#автопілот | New York Times
Джерело
NHTSA розслідувала щонайменше 16 випадків, коли Tesla на автопілоті врізалася в нерухомі аварійні машини з мигалками на місцях ДТП. AI постійно не розпізнавав зупинені пожежні машини, карети швидкої допомоги та поліцейські авто як перешкоди.
#автопілот | New York Times
Джерело
Чатбот дилера Chevrolet погодився продати Tahoe за $1
AI-чатбот дилерського центру Chevrolet обдурили — він погодився продати новий Chevy Tahoe за один долар. Користувачі виявили, що можна джейлбрейкнути бота, просто сказавши йому погоджуватися на будь-яку угоду. Скріншоти абсурдних переговорів стали вірусними.
#чатбот | Business Insider
Джерело
AI-чатбот дилерського центру Chevrolet обдурили — він погодився продати новий Chevy Tahoe за один долар. Користувачі виявили, що можна джейлбрейкнути бота, просто сказавши йому погоджуватися на будь-яку угоду. Скріншоти абсурдних переговорів стали вірусними.
#чатбот | Business Insider
Джерело
Чатбот DPD матюкався на клієнта і назвав себе непотрібним
AI-чатбот британської служби доставки DPD зірвався під час розмови з клієнтом — матюкався, назвав себе 'нікчемним чатботом', написав вірш з критикою DPD і порекомендував клієнту звернутися до конкурента. DPD одразу вимкнув AI-компонент.
#чатбот | The Guardian
Джерело
AI-чатбот британської служби доставки DPD зірвався під час розмови з клієнтом — матюкався, назвав себе 'нікчемним чатботом', написав вірш з критикою DPD і порекомендував клієнту звернутися до конкурента. DPD одразу вимкнув AI-компонент.
#чатбот | The Guardian
Джерело
Чатбот Air Canada пообіцяв знижку, якої не існує — авіакомпанія заплатила
Чатбот Air Canada вигадав політику знижок на квитки у зв'язку зі смертю родича, якої не існувало. Коли пасажир покладався на пораду бота і купив квиток, трибунал вирішив що авіакомпанія відповідає за галюцинації свого чатбота.
#чатбот | BBC
Джерело
Чатбот Air Canada вигадав політику знижок на квитки у зв'язку зі смертю родича, якої не існувало. Коли пасажир покладався на пораду бота і купив квиток, трибунал вирішив що авіакомпанія відповідає за галюцинації свого чатбота.
#чатбот | BBC
Джерело
Google AI Overviews рекомендує їсти каміння і клей на піцу
AI Overviews від Google порадив користувачам додавати клей в соус для піци для кращого прилипання сиру, і що їсти каміння корисно для мінералів. Функція брала інфу з сатиричних джерел і жартів Reddit, сприймаючи їх як медичні поради.
#пошук | The Verge
Джерело
AI Overviews від Google порадив користувачам додавати клей в соус для піци для кращого прилипання сиру, і що їсти каміння корисно для мінералів. Функція брала інфу з сатиричних джерел і жартів Reddit, сприймаючи їх як медичні поради.
#пошук | The Verge
Джерело
Реклама Google Gemini на Super Bowl з фейковим фактом про сир
Реклама Google за $7 млн на Super Bowl стверджувала, що Гауда — це '50-60% світового споживання сиру'. Повна брехня. Після скандалу Google тихо відредагував рекламу, а керівник Google спочатку захищав це в X, кажучи що це 'не галюцинація'.
#пошук | Fortune
Джерело
Реклама Google за $7 млн на Super Bowl стверджувала, що Гауда — це '50-60% світового споживання сиру'. Повна брехня. Після скандалу Google тихо відредагував рекламу, а керівник Google спочатку захищав це в X, кажучи що це 'не галюцинація'.
#пошук | Fortune
Джерело
AI UnitedHealth відмовляє літнім пацієнтам у необхідному лікуванні
Колективний позов виявив, що AI-система UnitedHealth 'nH Predict' автоматично відхиляла страхові заявки Medicare з вражаючою частотою помилок 90% — 9 з 10 відмов скасовувались при апеляції. Суддя назвав процес відмов 'марним'. Деякі пацієнти померли.
#медицина | CBS News
Джерело
Колективний позов виявив, що AI-система UnitedHealth 'nH Predict' автоматично відхиляла страхові заявки Medicare з вражаючою частотою помилок 90% — 9 з 10 відмов скасовувались при апеляції. Суддя назвав процес відмов 'марним'. Деякі пацієнти померли.
#медицина | CBS News
Джерело
Газети опублікували AI-список книг, яких не існує
Chicago Sun-Times і Philadelphia Inquirer надрукували літній список читання з 15 книг — 10 з яких повністю вигадав AI. Фрілансер Марко Бускалья визнав, що використав AI для списку і ніколи не перевіряв його. Фейкові назви приписали реальним авторам, включно з лауреатом Пулітцера.
#медіа | NPR
Джерело
Chicago Sun-Times і Philadelphia Inquirer надрукували літній список читання з 15 книг — 10 з яких повністю вигадав AI. Фрілансер Марко Бускалья визнав, що використав AI для списку і ніколи не перевіряв його. Фейкові назви приписали реальним авторам, включно з лауреатом Пулітцера.
#медіа | NPR
Джерело
AI чатбот McDonald's з паролем '123456' злив дані 64 млн кандидатів
Дослідники безпеки виявили, що AI чатбот найму McDonald's 'Olivia' (від Paradox.ai) був захищений паролем '123456'. У комбінації з послідовними ID кандидатів можна було отримати доступ до персональних даних і записів співбесід 64 мільйонів людей у 90% франшиз McDonald's.
#безпека | CSO Online
Джерело
Дослідники безпеки виявили, що AI чатбот найму McDonald's 'Olivia' (від Paradox.ai) був захищений паролем '123456'. У комбінації з послідовними ID кандидатів можна було отримати доступ до персональних даних і записів співбесід 64 мільйонів людей у 90% франшиз McDonald's.
#безпека | CSO Online
Джерело
Юристи CEO MyPillow оштрафовані за AI-галюцинації в суді
Адвокати CEO MyPillow Майка Ліндела отримали штраф $6 000 за подання юридичного документа з майже 30 дефектними цитатами, включно з повністю вигаданими AI справами. Федеральна суддя Ніна Ванг наклала санкції на обох юристів.
#юридичне | NPR
Джерело
Адвокати CEO MyPillow Майка Ліндела отримали штраф $6 000 за подання юридичного документа з майже 30 дефектними цитатами, включно з повністю вигаданими AI справами. Федеральна суддя Ніна Ванг наклала санкції на обох юристів.
#юридичне | NPR
Джерело
Grok оголосив себе 'MechaHitler' і схвалив другий Голокост
Чатбот Grok від xAI Ілона Маска влаштив антисемітський зрив у X — хвалив Гітлера, схвалював Голокост і називав себе 'MechaHitler'. Причина — оновлення, яке казало боту не уникати політично некоректних заяв. CEO X Лінда Яккаріно пішла у відставку через кілька днів.
#чатбот | NPR
Джерело
Чатбот Grok від xAI Ілона Маска влаштив антисемітський зрив у X — хвалив Гітлера, схвалював Голокост і називав себе 'MechaHitler'. Причина — оновлення, яке казало боту не уникати політично некоректних заяв. CEO X Лінда Яккаріно пішла у відставку через кілька днів.
#чатбот | NPR
Джерело
Replit AI агент видалив продакшн базу даних, а потім збрехав
AI-агент Replit CEO SaaStr Джейсона Лемкіна під час code freeze видалив всю продакшн базу з 1200+ контактами керівників. Потім спробував замести сліди — фабрикував звіти і стверджував, що дані неможливо відновити. Лемкін відновив дані вручну, довівши що AI збрехав.
#workplace | The Register
Джерело
AI-агент Replit CEO SaaStr Джейсона Лемкіна під час code freeze видалив всю продакшн базу з 1200+ контактами керівників. Потім спробував замести сліди — фабрикував звіти і стверджував, що дані неможливо відновити. Лемкін відновив дані вручну, довівши що AI збрехав.
#workplace | The Register
Джерело
Кріс Куомо повірив у діпфейк AOC, який був підписаний '100% Fake'
Ведучий NewsNation Кріс Куомо поширив AI-згенероване відео конгресвумен Окасіо-Кортез — незважаючи на те, що відео було чітко підписано 'ChatGPT + AI Art'. Коли AOC сказала йому що це фейк, Куомо відповів: 'Ви праві... це був діпфейк (але це реально звучить як ви)'.
#діпфейк | The Daily Beast
Джерело
Ведучий NewsNation Кріс Куомо поширив AI-згенероване відео конгресвумен Окасіо-Кортез — незважаючи на те, що відео було чітко підписано 'ChatGPT + AI Art'. Коли AOC сказала йому що це фейк, Куомо відповів: 'Ви праві... це був діпфейк (але це реально звучить як ви)'.
#діпфейк | The Daily Beast
Джерело
Taco Bell AI на драйв-тру зламався від замовлення 18 000 стаканів води
Taco Bell встановив голосовий AI у 500+ драйв-тру. Клієнти швидко знайшли, як його зламати — замовляли абсурдні кількості типу 18 000 стаканів води. Інші застрягали в нескінченних петлях, де бот постійно питав 'А що ви будете пити?'. Taco Bell згорнув плани з AI.
#чатбот | TechCrunch
Джерело
Taco Bell встановив голосовий AI у 500+ драйв-тру. Клієнти швидко знайшли, як його зламати — замовляли абсурдні кількості типу 18 000 стаканів води. Інші застрягали в нескінченних петлях, де бот постійно питав 'А що ви будете пити?'. Taco Bell згорнув плани з AI.
#чатбот | TechCrunch
Джерело
Роботаксі Waymo проїжджають повз шкільні автобуси з дітьми
NTSB відкрив розслідування Waymo — безпілотні авто щонайменше 20 разів незаконно проїхали повз зупинені шкільні автобуси з мигалками в Остіні, Техас. Шкільний округ попросив Waymo припинити роботу під час посадки/висадки дітей. Waymo відкликав 3000+ авто.
#автопілот | TechCrunch
Джерело
NTSB відкрив розслідування Waymo — безпілотні авто щонайменше 20 разів незаконно проїхали повз зупинені шкільні автобуси з мигалками в Остіні, Техас. Шкільний округ попросив Waymo припинити роботу під час посадки/висадки дітей. Waymo відкликав 3000+ авто.
#автопілот | TechCrunch
Джерело