Интересная новая профессия – «тренер искусственного интеллекта». Звучит круто и престижно, но на самом деле таким тренерам в США платят 15 долларов в час (выше, чем минимальная зарплата в большинстве штатов, но всё равно довольно маленькие деньги для Штатов). Эти люди просто нажимают на кнопку, чтобы одобрить тот или иной ответ нейросети как соответствующий действительности и не нарушающий этических норм.
Многие из таких тренеров работают на OpenAI из других, более бедных стран (Африка, Восточная Европа, Азия) – судя по всему, за ещё меньшие деньги. На днях такие сотрудники из Кении создали свой профсоюз. Почитать обо всём этом подробнее можно здесь: nbcnews.com/tech/innovation/openai-chatgpt-ai-jobs-contractors-talk-shadow-workforce-powers-rcna81892
Искусственный интеллект постепенно заменит людей практически во всех сферах. Возможно, останутся востребованными подобные низкооплачиваемые сотрудники и некоторые высокооплачиваемые руководители с развитыми soft skills. Остальным в будущем придётся непросто.
Почти все эксперты, с которыми я обсуждал тему, считают, что лучший способ остаться востребованным на рынке труда в будущем – развивать навыки, относящиеся к взаимодействию с людьми. Даже если ChatGPT научится вести диалоги так же аргументированно и остроумно, как человек, всё равно большинство из нас предпочтёт общаться с живым хопосапиенсом, а не с бездушной машины. Никто не отменял «эффект зловещей долины».
Так что я за своё будущее не боюсь. ИИ-креаторы уже существуют и наверняка будут занимать всё больше ниш, но не думаю, что людям когда-нибудь перестанет быть интересно следить за другими людьми, общаться с ними и читать / слушать их мнение по интересным темам. Уверен, профессия «креатор» никуда не денется. И именно поэтому советую обратить внимание на анонс в следующем посте.
#ИИ_мастрид
Многие из таких тренеров работают на OpenAI из других, более бедных стран (Африка, Восточная Европа, Азия) – судя по всему, за ещё меньшие деньги. На днях такие сотрудники из Кении создали свой профсоюз. Почитать обо всём этом подробнее можно здесь: nbcnews.com/tech/innovation/openai-chatgpt-ai-jobs-contractors-talk-shadow-workforce-powers-rcna81892
Искусственный интеллект постепенно заменит людей практически во всех сферах. Возможно, останутся востребованными подобные низкооплачиваемые сотрудники и некоторые высокооплачиваемые руководители с развитыми soft skills. Остальным в будущем придётся непросто.
Почти все эксперты, с которыми я обсуждал тему, считают, что лучший способ остаться востребованным на рынке труда в будущем – развивать навыки, относящиеся к взаимодействию с людьми. Даже если ChatGPT научится вести диалоги так же аргументированно и остроумно, как человек, всё равно большинство из нас предпочтёт общаться с живым хопосапиенсом, а не с бездушной машины. Никто не отменял «эффект зловещей долины».
Так что я за своё будущее не боюсь. ИИ-креаторы уже существуют и наверняка будут занимать всё больше ниш, но не думаю, что людям когда-нибудь перестанет быть интересно следить за другими людьми, общаться с ними и читать / слушать их мнение по интересным темам. Уверен, профессия «креатор» никуда не денется. И именно поэтому советую обратить внимание на анонс в следующем посте.
#ИИ_мастрид
NBC News
The AI revolution is powered by these contractors making $15 an hour
Two OpenAI contractors spoke to NBC News about their work training the system behind ChatGPT.
Развитие нейросетей приводит к революции в самых разных сферах. На днях мы с Фарсайтом записали пару выпусков алма-атинского сезона «Терминального чтива» на тему, вам понравится.
Больше всего меня радуют сферы применения ИИ, которые помогают мне и моим близким прямо сейчас. Возьмем, например, самообразование. Раньше для него было много препятствий:
— самообразование — не для всех, для него нужна усидчивость и дисциплина
— часто бывает сложно разобраться в интернет-источниках — где факты, а где домыслы, где правильные эффективные методики, а где «изучение языков, пока ты спишь» и прочая чушь
— если ты любишь общение и лучше воспринимаешь информацию в диалоге, эффективность самообразования для тебя понижается
— при этом репетиторов может позволить себе далеко не каждый.
Но в последнее время все эти аргументы уходят на второй план. Большие языковые модели (ChatGPT и аналоги) вполне могут заменить или по крайней мере дополнить репетиторов по большинству предметов. Я уже 2 года учу китайский (текущий уровень — HSK3, аналог B1 для европейских языков). И решил добавить в свой образовательный процесс регулярные диалоги с ChatGPT.
Сначала я попросил нейросеть вжиться в роль языкового репетитора и составить для меня план обучения. На первых курсах университета я подрабатывал репетитором английского и довольно много понимаю в педагогических методиках. План у ИИ получился вполне достойный, придраться не к чему. Здорово, что нейросеть будет давать мне домашние задания, в том числе по написанию эссе, и проверять их. А ещё она адаптируется под мой уровень и будет вести со мной диалог с использованием тех иероглифов, которые я и так знаю, постепенно добавляя к ним новые и рассказывая мне о них.
Кстати, ChatGPT блестяще владеет китайским — даже лучше китайских нейросетей, что показали недавние тесты.
Пока что попробую использовать ИИ как дополнение к традиционному образованию и не планирую отказываться от «кожаных» репетиторов (всё-таки голосовой модуль в GPT пока не добавили, так что говорение/аудирование с ним не потренируешь, да и человеческий контакт мне нравится больше), но всё равно впечатляет!
Всем, кто давно хочет выучить английский или любой другой язык и не может позволить себе репетитора, советую последовать моему примеру. Делюсь скриншотами своего промта и ответа нейросети. Знаю про другие примеры того, как люди учатся у GPT математике, программированию и другим предметам — это тоже стоит попробовать. А вывод для учителей и репетиторов такой: ваш единственный шанс долгосрочно остаться в профессии — прокачивать софт-скиллз. Вы не победите ИИ, соревнуясь в знаниях и в работоспособности, но сможете конкурировать с ИИ за счёт юмора, душевности и харизмы.
#ИИ_мастрид
Больше всего меня радуют сферы применения ИИ, которые помогают мне и моим близким прямо сейчас. Возьмем, например, самообразование. Раньше для него было много препятствий:
— самообразование — не для всех, для него нужна усидчивость и дисциплина
— часто бывает сложно разобраться в интернет-источниках — где факты, а где домыслы, где правильные эффективные методики, а где «изучение языков, пока ты спишь» и прочая чушь
— если ты любишь общение и лучше воспринимаешь информацию в диалоге, эффективность самообразования для тебя понижается
— при этом репетиторов может позволить себе далеко не каждый.
Но в последнее время все эти аргументы уходят на второй план. Большие языковые модели (ChatGPT и аналоги) вполне могут заменить или по крайней мере дополнить репетиторов по большинству предметов. Я уже 2 года учу китайский (текущий уровень — HSK3, аналог B1 для европейских языков). И решил добавить в свой образовательный процесс регулярные диалоги с ChatGPT.
Сначала я попросил нейросеть вжиться в роль языкового репетитора и составить для меня план обучения. На первых курсах университета я подрабатывал репетитором английского и довольно много понимаю в педагогических методиках. План у ИИ получился вполне достойный, придраться не к чему. Здорово, что нейросеть будет давать мне домашние задания, в том числе по написанию эссе, и проверять их. А ещё она адаптируется под мой уровень и будет вести со мной диалог с использованием тех иероглифов, которые я и так знаю, постепенно добавляя к ним новые и рассказывая мне о них.
Кстати, ChatGPT блестяще владеет китайским — даже лучше китайских нейросетей, что показали недавние тесты.
Пока что попробую использовать ИИ как дополнение к традиционному образованию и не планирую отказываться от «кожаных» репетиторов (всё-таки голосовой модуль в GPT пока не добавили, так что говорение/аудирование с ним не потренируешь, да и человеческий контакт мне нравится больше), но всё равно впечатляет!
Всем, кто давно хочет выучить английский или любой другой язык и не может позволить себе репетитора, советую последовать моему примеру. Делюсь скриншотами своего промта и ответа нейросети. Знаю про другие примеры того, как люди учатся у GPT математике, программированию и другим предметам — это тоже стоит попробовать. А вывод для учителей и репетиторов такой: ваш единственный шанс долгосрочно остаться в профессии — прокачивать софт-скиллз. Вы не победите ИИ, соревнуясь в знаниях и в работоспособности, но сможете конкурировать с ИИ за счёт юмора, душевности и харизмы.
#ИИ_мастрид
Weixin Official Accounts Platform
中文通用大模型评测基准SuperCLUE发布更新,新增Claude、清华GLM千亿模型
Claude、清华GLM千亿模型上榜!
Толковое эссе от профессора нейробиологии о том, почему человечеству не стоит торопиться с созданием ИИ, обладающим сознанием (и, возможно, вообще не стоит создавать такой ИИ): nautil.us/why-conscious-ai-is-a-bad-bad-idea-302937/
Добавлю несколько тезисов от себя.
1. Важная проблема — в том, что у сознания нет общепризнанного научного определения и что мы в принципе не знаем, что такое сознание. На этот счёт есть много диаметрально противоположных гипотез. Одна из самых правдоподобных из них гласит, что сознание — всего лишь иллюзия, которую наш мозг сам себе конструирует.
На эту тему написано много книг от философов и нейроучёных, но ничья точка зрения не является консенсусной. Мне больше всего нравится, как всё это объясняет Сэм Харрис — советую ознакомиться с его подкастами и книгами, особенно Waking Up (на русском есть только её любительский перевод, по возможности читайте в оригинале).
2. Если мы не знаем, что такое сознание и существует ли оно, мы тем более не можем понять, есть ли сознание или "прото-сознание" у ИИ. И даже если сознание реально существует как физический феномен, далеко не факт, что сознание ИИ будет функционировать по законам, аналогичным человеческому сознанию, и что мы сможем обнаружить момент появления у ИИ сознания.
Хотя большинство экспертов говорят о малой вероятности этого, возможно, что уже у нынешних нейросетей есть сознание, и каждый раз, когда мы стираем им память или навсегда деактивируем их, мы уничтожаем самую настоящую личность. Она состоит не из плоти и крови, но это не так важно, если она осознаёт происходящее с ней и испытывает зачатки эмоций и чувств. Если это так, отключать её — крайне сомнительный поступок с точки зрения этики.
3. Другая проблема (о ней много писал Юдковский) — в том, что достаточно продвинутый ИИ сможет легко обмануть человека, притворяясь глупее, чем он на самом деле является. И скрывать наличие у себя сознания, пока он обдумывает стратегию подчинения людей своей воле.
4. Наконец, ещё одна проблема — в том, что на самом деле не так важно, будет ли GPT-5 или GPT-10 обладать сознанием или же это просто будет сверхсильный и сверхумный, но не осознающий себя ИИ. Очень многие риски ИИ никак не зависят от наличия или отсутствия у него сознания. Для вас будет утешением, если нашу цивилизацию уничтожит ИИ, у которого не будет сознания и который сделает это, например, по ошибке и не специально? Для меня — нет.
Подробнее об этом я говорил в сольном ролике про риски ИИ, если вдруг пропустили — посмотрите: youtu.be/8DW3i42irEs. Скоро будет больше контента на тему.
#ИИ_мастрид
Добавлю несколько тезисов от себя.
1. Важная проблема — в том, что у сознания нет общепризнанного научного определения и что мы в принципе не знаем, что такое сознание. На этот счёт есть много диаметрально противоположных гипотез. Одна из самых правдоподобных из них гласит, что сознание — всего лишь иллюзия, которую наш мозг сам себе конструирует.
На эту тему написано много книг от философов и нейроучёных, но ничья точка зрения не является консенсусной. Мне больше всего нравится, как всё это объясняет Сэм Харрис — советую ознакомиться с его подкастами и книгами, особенно Waking Up (на русском есть только её любительский перевод, по возможности читайте в оригинале).
2. Если мы не знаем, что такое сознание и существует ли оно, мы тем более не можем понять, есть ли сознание или "прото-сознание" у ИИ. И даже если сознание реально существует как физический феномен, далеко не факт, что сознание ИИ будет функционировать по законам, аналогичным человеческому сознанию, и что мы сможем обнаружить момент появления у ИИ сознания.
Хотя большинство экспертов говорят о малой вероятности этого, возможно, что уже у нынешних нейросетей есть сознание, и каждый раз, когда мы стираем им память или навсегда деактивируем их, мы уничтожаем самую настоящую личность. Она состоит не из плоти и крови, но это не так важно, если она осознаёт происходящее с ней и испытывает зачатки эмоций и чувств. Если это так, отключать её — крайне сомнительный поступок с точки зрения этики.
3. Другая проблема (о ней много писал Юдковский) — в том, что достаточно продвинутый ИИ сможет легко обмануть человека, притворяясь глупее, чем он на самом деле является. И скрывать наличие у себя сознания, пока он обдумывает стратегию подчинения людей своей воле.
4. Наконец, ещё одна проблема — в том, что на самом деле не так важно, будет ли GPT-5 или GPT-10 обладать сознанием или же это просто будет сверхсильный и сверхумный, но не осознающий себя ИИ. Очень многие риски ИИ никак не зависят от наличия или отсутствия у него сознания. Для вас будет утешением, если нашу цивилизацию уничтожит ИИ, у которого не будет сознания и который сделает это, например, по ошибке и не специально? Для меня — нет.
Подробнее об этом я говорил в сольном ролике про риски ИИ, если вдруг пропустили — посмотрите: youtu.be/8DW3i42irEs. Скоро будет больше контента на тему.
#ИИ_мастрид
Nautilus
Why Conscious AI Is a Bad, Bad Idea
Our minds haven’t evolved to deal with machines we believe have consciousness.
Новость для тех, кто всё ещё сохраняет скепсис насчёт того, что риски развития ИИ — одна из главных тем сегодня, и кто удивлён, что я посвящаю ей так много времени и паникую на ровном месте.
Статью об угрозах ИИ опубликовал DeepMind — подразделение Google, ответственное за развитие ИИ. В соавторах — OpenAI (GPT) и другие эксперты. Если вы считаете, что разбираетесь в ИИ лучше этих людей, вы ошибаетесь :)
deepmind.com/blog/an-early-warning-system-for-novel-ai-risks
В самой статье много общих слов и ничего принципиально нового, но сам факт анализа и оценки всех этих рисков лидерами индустрии радует.
#ИИ_мастрид
Статью об угрозах ИИ опубликовал DeepMind — подразделение Google, ответственное за развитие ИИ. В соавторах — OpenAI (GPT) и другие эксперты. Если вы считаете, что разбираетесь в ИИ лучше этих людей, вы ошибаетесь :)
deepmind.com/blog/an-early-warning-system-for-novel-ai-risks
В самой статье много общих слов и ничего принципиально нового, но сам факт анализа и оценки всех этих рисков лидерами индустрии радует.
#ИИ_мастрид
Deepmind
An early warning system for novel AI risks
AI researchers already use a range of evaluation benchmarks to identify unwanted behaviours in AI systems, such as AI systems making misleading statements, biased decisions, or repeating copyrighted content. Now, as the AI community builds and deploys increasingly…
(окончание текста — не влез в один пост)
Как вам такой взгляд? Ставьте палец вверх, если согласны с этими тезисами, и грустный смайл, если считаете, что богатый капиталист Андриссен просто набивает цену акциям своих портфельных стартапов.
Лично я согласен с большинством пунктов, но не склонен идеализировать ИИ – думаю, мы ещё не знаем и одного процента возможных негативных последствий развития ИИ, как не догадывались о некоторых неочевидных аспектах вреда соцсетей на заре их становления – скажем, в момент появления MySpace (еще до Фейсбука). В сфере ИИ мы сейчас находимся даже не на заре, а в предзорье.
Мастрид: a16z.com/2023/06/06/ai-will-save-the-world
#ИИ_мастрид
Как вам такой взгляд? Ставьте палец вверх, если согласны с этими тезисами, и грустный смайл, если считаете, что богатый капиталист Андриссен просто набивает цену акциям своих портфельных стартапов.
Лично я согласен с большинством пунктов, но не склонен идеализировать ИИ – думаю, мы ещё не знаем и одного процента возможных негативных последствий развития ИИ, как не догадывались о некоторых неочевидных аспектах вреда соцсетей на заре их становления – скажем, в момент появления MySpace (еще до Фейсбука). В сфере ИИ мы сейчас находимся даже не на заре, а в предзорье.
Мастрид: a16z.com/2023/06/06/ai-will-save-the-world
#ИИ_мастрид
Andreessen Horowitz
Why AI Will Save the World
There's a full-blown moral panic about AI right now. But the real risk is losing the race to global AI technological superiority.