Реалістичний ризик від штучного інтелекту — «нудний апокаліпсис»

Один із реалістичних середньострокових ризиків від інструментів генеративного ШІ — вони наповнять онлайн-комунікації морем булшиту: довгі імейли чи автоматизовані статті на сайтах новин, миттєво згенеровані через ChatGPT.

Ось прониклива стаття колумніста The New York Times Езри Кляйна на цю тему. Раджу прочитати (або послухати) повністю, а поки переклав для вас дві ключові цитати:

🗣 «Один [потенційний ризик] — у тому, що системи [штучного інтелекту на кшталт ChatGPT] будуть більш ефективні для того, щоб відволікати і розважати нас, ніж щоб допомогти сфокусуватися. Зараз великі мовні моделі часто галюцинують: попросіть їх відповісти на складне запитання, і ви отримаєте переконливу, ерудовану відповідь, у якій ключові факти та цитати ймовірно будуть вигадані. Я підозрюю, що це суттєво сповільнить їх широке використання у ключових індустріях — схоже до того, як складно запустити безпілотні автомобілі, бо вони повинні бути ідеально надійними, а не просто досить ефективними.

Отже, питання яке слід поставити щодо великих мовних моделей — де надійність не має значення? У цих областях їх почнуть застосовувати найшвидше... Штучний інтелект чудово підійде для створення контенту, де надійність не є важливим фактором. Персоналізовані відеоігри, дитячі шоу, музичні мешапи і персоналізовані зображення будуть приголомшливими. Але там, де надійність має значення — скажімо, велика мовна модель, призначена для відповідей на медичні запитання чи конспектування результатів прийому лікаря — розгортання [ШІ] буде складнішим, бо витрати на нагляд [за надійністю результатів] будуть величезними. Проблема в тому, що саме ці сфери мають найбільше значення для економічного зростання».

🗣 «Один урок цифрової ери — більше не завжди означає краще. Більше імейлів, більше звітів, більше слек-повідомлень, більше твітів, більше відео, більше новинних статей, більше презентацій, більше робочих дзвінків, здається, не допомогли нам згенерувати більше геніальних ідей...

Магія великої мовної моделі у тому, що вона може створити документ майже будь-якої довжини майже в будь-якому стилі з мінімальними зусиллями людини. Мало хто задумувався над тим, скільки ресурсів треба буде витратити, щоб опрацьовувати усі ці тексти. [Один із прикладів — плодіння зайвої бюрократії через миттєве генерування довжелезних скарг, на які хтось із чиновників буде змушений відповідати].
 
Ви можете заперечити, що ШІ вирішить цю проблему, дозволивши швидко згенерувати короткий конспект таких скарг для перепрацьованих урядовців — десь так, як збільшення кількості спаму (деколи, частково) натикається на більш розвинуті спам-фільтри. [Науковець] Джонатан Франкл у розмові зі мною описав це як сценарій “нудного апокаліпсису” для ШІ, у якому “ми використовуємо ChatGPT, щоб згенерувати довгі імейли та документи; отримувач використовує ChatGPT, щоб скоротити їх назад до кількох ключових тез; маса інформації переходить із рук у руки, але все це лише пусті слова — ми просто розтягуємо і стискаємо контент, згенерований штучним інтелектом».

▪️ Читати повну статтю (~10 хвилин)

На честь початку відпустки прочитав масштабний лонгрід The New York Times Magazine про Гуам — острів у Тихому океані, який є однією із територій США.

Територіально добиратися туди зручніше із Токіо, ніж з будь-якого штату США: політ із Гаваїв до Гуаму займає десь 8 годин. Але Гуам є важливою військовою базою для американців, особливо на фоні погіршення відносин з Китаєм. Якщо почнеться війна з КНР, острів прийме на себе перший удар; якщо Кім Чен Ин зійде з глузду і застосує ядерну зброю проти США, вона цілком зможе дістати до Гуаму.

При цьому Гуам у певному сенсі залишається буквальною колонією. Його жителі не мають повноцінних виборчих прав: вони не голосують на виборах президента США і мають обмежене представництво у Конгресі. Гуам залишається у списку несамоврядних територій ООН, і досі існує Комісія із деколонізації Гуаму [це ще до теми bullshit jobs].

Власне, значною мірою стаття фокусується на цьому, її заголовок — «Америка, забута американцями».
Головний герой — представник корінного народу Гуаму чаморро, чиїх предків примусово переселили, щоб звільнити місце для військової бази. Він воював у американській армії в Іраку, розчарувався у тій війні (як, в принципі, і багато інших американських військових), а зараз намагається наводити мости між місцевим населенням і великим контингентом американської армії на острові.

Навряд чи пораджу читати статтю повністю усім — із ~15 тисяч слів вона явно занадто довга і не є настільки шедевром письменницької майстерності, щоб читати лише заради стилю — але почитати початок і погортати мапи й фото може бути цікаво.

Наступний матеріал у моєму списку читання у відпустці — спогади Дж. Р. Морінґера, гострайтера мемуарів принца Гаррі, у The New Yorker.

Це у першу чергу історія письменника, який досяг якогось успіху під своїм власним іменем (отримав престижну Пулітцерівську премію за журналістську роботу, написав власні успішні мемуари про своє дитинство), але у якого більш успішно виходить писати книжки за інших людей. І останні 15 років його кар'єри — це боротьба між особистими письменницькими амбіціями та успіхом, який приносить ремесло гострайтера.

Деталей про безпосередній процес написання мемуарів принца Гаррі тут не так багато, але трохи є. Найцікавіша сцена на цю тему — момент після публікації книги, коли Морінґера почали переслідувати папараці і про нього самого почали писати у пресі, часто з помилками: те, з чим Гаррі стикався усе життя. Ці кілька днів особистого досвіду стали для Морінґера ціннішим матеріалом, ніж незчисленні інтерв'ю з Гаррі і його оточенням, які він проводив кілька років до того. Але врахувати його у тексті мемуарів було вже пізно.

📍Я загалом цікавлюся роботою і досвідом гострайтерів. Якщо ви теж, почитайте інший допис на цю тему, який я позаминулого року публікував у Old York Times.

Наступний випуск у серії «цікаві лонгріди на рандомні теми» — профайл Бена Вілсона, очільника бренду презервативів Durex.

Сам Вілсон у статті постає архетипним company man: він працює над розвитком Durex на різних ролях останні півтора десятка років, а у вільний час купує вінтажні презервативи середини 20-го століття (і, звісно, випробовує різні презервативи особисто). Цікавішою, ніж він особисто, є його місія — зробити сексуальним продукт, який є апріорі несексуальним, який споживачі використовують здебільшого знехотя і через потребу, а не з любові до бренду

Durex складно назвати андердоґами — вони домінують на світовому ринку презервативів із часткою у 40%. Але й виклики також є: інновації просуваються повільно, а пандемія призвела до зменшення кількості сексу на одну ніч.

Одна із тактик розвитку — змістити фокус у маркетингу із презервативів як засобу безпеки на презервативи як інструмент для задоволення. Інший спосіб — відхід від гендерних категоризацій і фокусу лише на вагінальному сексі: слоган «прискорюють її, сповільнюють його» уже в минулому. А для категорії людей, яких неможливо змотивувати купувати презервативи, Вілсон бачить великий комерційний потенціал у лубрикантах, якими він також займається у Reckitt, батьківській компанії Durex.

За хорошою традицією якісних профайлів, у статті багато цікавого бекґраунду — зокрема історія презервативів («історія постійно зменшуваного болю») і репортаж із фабрики у Таїланді, де виробляється половина усіх презервативів Durex (вона може видавати 200 тисяч презервативів за годину, а спеціалістки з контролю якості перевіряють по 22 тисячі штук за одну зміну).

Кілька років тому Сільвія Барраґан, власниця стоматологічної клініки в Мадриді, завела онлайн-роман із Браяном, симпатичним 52-річним американським солдатом, який на той момент був на бойовому завданні у Сирії.

У якийсь момент Браян пообіцяв відправити Сільвії злитки золота, які знайшов у тайнику терористів. Тоді її дорослі сини запідозрили, що щось тут не так. І справді — виявилося, що ніякого Браяна не існувало, а по той бік монітора був аферист із Нігерії, який намагався розвести Сільвію на гроші.

Чому успішна й досвідчена жінка повелася на таке очевидне шахрайство? Її син Карлос настільки зацікавився цим питанням, що поїхав до Нігерії, щоб спробувати знайти афериста, який ховався за ідентичністю Браяна — і зробив репортаж про поїздку для The Atavist.

Очевидно, конкретно «Браяна» Карлос не знайшов — це було б спробою знайти голку у копиці сіна. «Любовні аферисти» (romance scammers) — дуже популярна сфера роботи для молодих хлопців у Нігерії. 

Yahoo boys, як їх часто називають за назвою колись популярного імейл-сервісу, масово пишуть вестернерам у соцмережах під фейковими акаунтами. Переважна більшість потенційних жертв не відписує, але зрідка хтось може почати розмову. Ціль афериста — завести онлайн-роман і у підсумку виманити в людини гроші. (При цьому жертвою може бути як жінка, так і чоловік).

Звичайно, як і в багатьох інших сферах, на кількох успішних професіоналів, які завдяки цьому промислу заробили сотні тисяч доларів, припадають тисячі початківців, котрі гарують заради копійок. Але у Нігерії не так багато інших хороших можливостей для молодих хлопців, а ще допомагають відсутність мовного бар’єра із заможними англомовними країнами й обмежені ресурси поліції.

Утім головний друг «любовних аферистів» — самотність. Вона сильно зросла за останні роки, особливо на Заході і особливо під час пандемії. Найбільш успішні Yahoo boys, як «Браян», майстерно маніпулюють цим почуттям і обманюють своїх жертв — ті прагнуть уваги, навіть тоді, коли підсвідомо підозрюють, що їх водять за носа.

У повній статті ще багато цікавих деталей про те, як працює ця індустрія і що мотивує самих Yahoo boys; раджу почитати.

Цікава стаття The Verge про занепад Neeva — пошуковика, який намагався створити альтернативу Гуглу. Його заснували колишні топ-менеджери Google, зробивши ставку на побудову кращого продукту, в якому не буде реклами і який зароблятиме на платних підписках.

У засновників вийшло виконати одне складне завдання — створити хороший продукт. Але не вдалося виконати ще складніше і важливіше — підірвати монополію Гугла на канали дистрибуції і переконати достатньо користувачів змінити свої дефолтні налаштування на інший пошуковик.

Моя нова стаття для The Fix: інтерв'ю з редактором нових форматів The Wall Street Journal і автором нового посібника із проєктного менеджменту в медіа.

Фокус саме на медіа, але його посібник і це інтерв'ю будуть цікаві не лише журналістам — багато з навичок проєктного менеджменту універсальні.

📖 Що почитати і послухати: п’ять україномовних ресурсів

Ви не просили, але ось вони — п’ять рандомних рекомендацій україномовних ресурсів.

▫️ Новинне медіа — Бабель
▫️Журнал — Локальна історія
▫️ Телеграм-канал — «Ящер на ундервуді», один із найцікавіших українських кінокритиків
▫️ Подкаст — AI House Podcast, розмови із цікавими спеціалістами, які працюють у темі штучного інтелекту
▫️ YouTube-канал — «Сенс», київська книгарня і заодно репозиторій цікавих розмов про літературу

Як живе американський мусульманин, якому релігія забороняє користуватися кредитами і страхуванням? Скільки заробляють паралімпієць чи фінансова інфлюенсерка? Як колишні журналісти можуть знайти спосіб заробляти більше? 

Авторка подкасту Other People's Pockets Майя Лау, сама колишня фінансова журналістка, щотижня говорить із різними цікавими персонажами про їхні персональні фінанси.

Звичайно, завжди цікаво почути, скільки заробляють інші люди. Але подкаст значно ширший — часто він про те, як працюють різні індустрії і як влаштовані стосунки з грошима у різних соціальних класах. Було б цікаво почути український аналог, але #раджу_послухати і цей подкаст.

Три цікавих випуски:
🎤 Успішний викладач американського університету розповідає, як влаштовані його персональні фінанси як мусульманина, який намагається дотримуватися традиційних обмежень ісламу, зокрема не брати традиційних кредитів

🎤 Ядерний фізик, який пішов працювати у бізнес, бо в науці недостатньо грошей (навіть у Західній Європі)

🎤  Ведуча подкасту про власну фінансову ситуацію — чому зараз заробляє більше, ніж коли працювала журналісткою, і скільки платять за продюсування подкасту

Рубрика «корисне» — огляд інструментів для розшифровки аудіо, з фокусом на англійську мову

Одна з причин, чому я люблю подкасти як медіум — переважна більшість із них доступні безкоштовно. Частково тому, що історично не було зручних технічних способів робити їх платними.

Але зараз топові медіа прагнуть це змінити і почати збирати гроші за доступ до подкастів. Найбільш яскравий недавній приклад — The Economist, який з жовтня зробить переважну більшість своїх подкастів платними.

Детальніше — у моїй замітці для The Fix.

Кілька тижнів тому розповів виданню Media Makers Meet про Телеграм для медіа — чому він став важливою платформою для новин і які його плюси, мінуси й підводні камені для медійників.

Для українців відкрили доступ до Claude від компанії Anthropic — ШІ-чатботу, який вміє працювати з файлами і довшими текстами, ніж ChatGPT

У платній версії ChatGPT уже багато корисних функцій — наприклад, легка генерація зображень і аналіз даних із документів на кшталт ексель-таблиць. Але скоро він стане ще практично кориснішим: можна буде збудувати свій чатбот, який виконуватиме кастомні потреби.

Думаю, це наблизить нас до того, щоб ШІ-інструменти стали справді практично корисними в роботі для все більшої кількості людей, а не лише цікавими іграшками чи одним із багатьох додаткових інструментів. Чатбот зможе тренуватися на конкретно вашому контексті і конкретно ваших даних — наприклад, проаналізувати попередні статті медіавидання і допомагати редагувати нові статті з урахуванням особливостей і стилю конкретного медіа. Зараз це доступно лише великим компаніям.

Моя найновіша стаття для The Fix — інтерв'ю з медіаменеджером, який перекваліфікувався з журналіста у проєктного менеджера у Euronews. Цікавий кейс кар'єрного росту всередині однієї організації.

Ідеальна ілюстрація до мого допису про наперед заготовлені некрологи

На днях запустили один із проєктів, якими я займався останні кілька місяців — підписуйтеся, якщо цікаво:

📧 The Fix запускає курс у форматі розсилки про журналістику рішень  

The Fix — це англомовне видання для медійників, яке пише про європейський медіаринок, технології, бізнес і змінотворців. Старша керівниця онлайн-редакції, редакторка The Local Sweden та авторка The Fix Емма Льофґрен дослідила, як медійники можуть впроваджувати журналістику рішень у свої репортажі.

Курс охоплює такі теми:

📌 що таке журналістика рішень;
📌 як написати історію про неї;
📌 як запровадити цей підхід у редакції;
📌 як використовувати журналістику рішень для залучення аудиторії та зростання доходів.

Він вийде 5 грудня. Охочі можуть безплатно підписатися на нього завчасно, щоб у день старту отримати першого листа. Наступні частини курсу надсилатимуть щотижня.

​​Запрошую наступного вівторка поєднати приємне з корисним — послухати мене і задонатити на ЗСУ.

Теми, про які поговоримо:

💬 Вікіпедія як джерело даних про суспільство (як дізнатися статистику відвідування статті — і що розповідає нам рейтинг найпопулярніших статей Вікіпедії);

💬 Вікіпедія як джерело безкоштовних фотографій (у вікіпроєктах є понад 100 мільйонів медіафайлів, які можна використовувати під вільною ліцензією для презентацій, статей чи постів у соцмережах. Але як правильно шукати та коректно використовувати фото?);

💬 Вікіпедія майданчик для розваг (поговоримо про ігри, які використовують Вікіпедію та вікіпроєкти — як навчальні, так і просто для розваги).

Донат може бути на Повернись живим чи будь-який надійний збір.

Реєстрація і деталі — https://forms.gle/kTay6ghnyTNXDqVw5

Найкращі подкасти 2023 року за версією Long Telegram

Західні видання на кшталт The Economist і The New Yorker уже опублікували свої підбірки найкращих подкастів року. Час для підбірки за версією Long Telegram — окремо за англомовними подкасти і за україномовними.

▪️Англомовні подкасти:
🎧 Подкаст, з яким я провів найбільше часу — The Intelligence, щоденний новинний подкаст від The Economist
🎧 Улюблений подкаст, який запустився цього року — Past Present Future британського політолога й інтелектуала Девіда Рансімена
🎧 Найкращі індивідуальні випуски (критерій: змотивували мене прочитати чи хоча б купити згадані там книжки) — “Living Behind the Iron Curtain” у Past Present Future, “Lessons from scaling Stripe” у Lenny's Podcast

▪️Україномовні подкасти:
🎧 Подкаст, з яким я провів найбільше часу — УТ-2, регулярні цікаві розмови на важливі теми
🎧 Улюблений подкаст, який запустився цього року — «Розмови з Сенсом» про книжки і літературу (формально не подкаст, а ютуб-шоу, але можна слухати як подкаст)
🎧 Найкращий індивідуальний випуск — інтерв'ю з Євгеном Диким про війну для подкасту «Інше інтерв'ю»

📍Мій особистий топ подкастів, запущених минулого року, читайте тут

Якщо не встигли зареєструватися до події, ще є можливість отримати запис (за донат на ЗСУ від 100+ гривень) — напишіть мені, якщо хотіли б: @protanton