Вышла работа (Универы Оксфорда и Стэнфорда совместно с лондонскими AI Security Institute и School of Economics and Political Science) с названием, которое звучит уже не как гипотеза, а как приговор: AI systems out-persuade expert humans
Может быть, у профессионалов убеждения ещё есть шанс?
У дебатёров мирового уровня?
У агитаторов?
У фандрайзеров?
У людей, которым дали подготовку, деньги, практику и возможность выбрать удобные темы?
Ответ: шансов нет
AML превзошёл выборку (n = 18.978 разговоров с 6.923 человек) из отобранных победителей турнира убеждения, элитных дебатёров, включая чемпионов мира и континентов, и даже профессиональных страховых агентов
А когда этих дебатёров ещё и специально тренировали против AML, разрыв сузился, но не исчез
N.B. речь пока прежде всего о текстовом убеждении
Не о харизме на сцене, не о взгляде в глаза, не о многолетнем личном доверии
Но именно текстовое убеждение сегодня масштабируется дешевле всего
AML быстрее и плотнее насыщает разговор фактами, аргументами, структурами, примерами и адаптацией под собеседника
В эволюции человека решающим преимуществом был не большой мозг, а мозг, подключённый к другим мозгам через язык
Коммуникация сделала разум сетевым
Убеждение стало интерфейсом управления этой социо-разумной сетью
Может быть, у профессионалов убеждения ещё есть шанс?
У дебатёров мирового уровня?
У агитаторов?
У фандрайзеров?
У людей, которым дали подготовку, деньги, практику и возможность выбрать удобные темы?
Ответ: шансов нет
AML превзошёл выборку (n = 18.978 разговоров с 6.923 человек) из отобранных победителей турнира убеждения, элитных дебатёров, включая чемпионов мира и континентов, и даже профессиональных страховых агентов
А когда этих дебатёров ещё и специально тренировали против AML, разрыв сузился, но не исчез
N.B. речь пока прежде всего о текстовом убеждении
Не о харизме на сцене, не о взгляде в глаза, не о многолетнем личном доверии
Но именно текстовое убеждение сегодня масштабируется дешевле всего
AML быстрее и плотнее насыщает разговор фактами, аргументами, структурами, примерами и адаптацией под собеседника
В эволюции человека решающим преимуществом был не большой мозг, а мозг, подключённый к другим мозгам через язык
Коммуникация сделала разум сетевым
Убеждение стало интерфейсом управления этой социо-разумной сетью
В совершенстве овладев этим, алгоритм получает доступ не к одной способности среди многих, а к одному из центральных рычагов человеческой эволюционной власти
arXiv.org
AI systems out-persuade expert humans
Many societal decisions are settled by contests of persuasion. Conversational AI is a powerful new entrant in these contests, but whether it can out-persuade skilled and highly incentivized humans...