Код в мешке

Forwarded from RationalAnswer | Павел Комаровский

Только я собирался сделать большое интервью на тему искусственного интеллекта, как меня пригласил Арчет к себе на подкаст @Archet, чтобы обсудить вот это всё с Иваном Ямщиковым (это ученый в сфере ИИ, также известный как ведущий подкаста @progulka). Ну и я, конечно, согласился!

Идея была в том, чтобы дружески немного подебатировать про то, насколько вероятна погибель человечества от цифровых лап искусственного интеллекта. Поговорили мы, в целом, интересно. С другой стороны – я первый раз участвовал в записи «на троих», и такой формат показался мне значительно более сложным, чем классическое интервью «один-на-один» (который я в основном практикую у себя на канале). Местами было ощущение, что нить беседы разматывалась немного хаотично: до ряда интересных технических вопросов мы в итоге так и не добрались, а часть озвученных мной в начале тезисов обсуждать просто не стали.

Большая часть подкаста крутилась вокруг тезиса Ивана про то, что решение проблемы AI alignment до создания сильного AGI (универсального искусственного интеллекта) будет гораздо более губительным злом, чем появление такого AGI без возможности надежно согласовать его ценности с человеческими. И только в конце разговора выяснилось, что Иван всё-таки считает, что сильный ИИ неизбежно на этапе обучения «впитает» в себя человеческие моральные ценности, вроде стремления заботиться о мыслящих существах с сознанием – что, на мой взгляд, и является как раз примером пресловутого AI alignment (но обсудить это подробно мы уже немного не успели).

Anyway, беседа в любом случае получилась, на мой взгляд, интересной – ребятам большое спасибо за приглашение и за возможность поговорить с приятными и умными людьми на захватывающую тему. =)

Смотреть видео: https://www.youtube.com/watch?v=CXK1nw-gc2M

P.S. Не забудьте еще подписаться на ребят в Телеграме: подкаст для технооптимистов «Проветримся!» от Ивана Ямщикова и подкаст «Рационарчет» от, собственно, Арчета.

YouTube

Безопасность искусственного интеллекта (Павел Комаровский, Иван Ямщиков и Арчет)

Подпишись на участников беседы:
- ТГ-канал Павла Комаровского — https://t.me/RationalAnswer
- ТГ-канал Ивана Ямщикова — https://t.me/progulka
- YouTube Ивана Ямщикова — https://www.youtube.com/@kroniker
- ТГ-канал Арчета — https://t.me/Archet
- Подкаст Арчета…

2 views16:06