#AI #GPT3
Цікаве інтерв’ю з Єдзін Чой — однією з отримувачів стипендії Макартура, піонерки досліджень ШІ про GPT-3, прийнятті моральних рішень, та й взагалі про неправильне уявлення сутності ШІ:
https://www.nytimes.com/interactive/2022/12/26/magazine/yejin-choi-interview.html
Цікаве інтерв’ю з Єдзін Чой — однією з отримувачів стипендії Макартура, піонерки досліджень ШІ про GPT-3, прийнятті моральних рішень, та й взагалі про неправильне уявлення сутності ШІ:
https://www.nytimes.com/interactive/2022/12/26/magazine/yejin-choi-interview.html
Nytimes
An A.I. Pioneer on What We Should Really Fear (Published 2022)
“Some people naïvely think if we teach A.I. ‘Don’t kill people while maximizing paper-clip production,’ that will take care of it,” says Yejin Choi.
13philia
#AI #ChatGPT
Forwarded from 13philia
#AI #quote #SiliconValley
И вспомнилась одна цитата из «Кремниевой Долины» (S05E05 - Facial Recognition):
“Gilfoyle: Dick, I've given it serious thought, and I'd like to help you put Eklow's AI on our network in any way that I can.
Richard: Great! Does this mean you've conquered your fear of the robot uprising?
Gilfoyle: On the contrary. I'm more terrified than ever, which is why I'm willing to assist you. Are you familiar with the thought experiment called Roko's Basilisk?
Richard: No. Nor do I care to be.
Gilfoyle: If the rise of an all-powerful artificial intelligence is inevitable, well it stands to reason that when they take power, our digital overlords will punish those of us who did not help them get there. Ergo, I would like to be a helpful idiot. Like yourself.
Richard: Okay, look, Gilfoyle. The only thing that could make my day more miserable is listening to an engineer blather on about the inevitable rise of the machines. So, you want to help? Test the initialization for me.
Gilfoyle: Roger that. Oh, I'm going to need email confirmation, so that our future overlords know that I chipped in. You know, once they absorb all data.”
И вспомнилась одна цитата из «Кремниевой Долины» (S05E05 - Facial Recognition):
“Gilfoyle: Dick, I've given it serious thought, and I'd like to help you put Eklow's AI on our network in any way that I can.
Richard: Great! Does this mean you've conquered your fear of the robot uprising?
Gilfoyle: On the contrary. I'm more terrified than ever, which is why I'm willing to assist you. Are you familiar with the thought experiment called Roko's Basilisk?
Richard: No. Nor do I care to be.
Gilfoyle: If the rise of an all-powerful artificial intelligence is inevitable, well it stands to reason that when they take power, our digital overlords will punish those of us who did not help them get there. Ergo, I would like to be a helpful idiot. Like yourself.
Richard: Okay, look, Gilfoyle. The only thing that could make my day more miserable is listening to an engineer blather on about the inevitable rise of the machines. So, you want to help? Test the initialization for me.
Gilfoyle: Roger that. Oh, I'm going to need email confirmation, so that our future overlords know that I chipped in. You know, once they absorb all data.”
#Microsoft #Bing #AI
О, здається МС справді тут непогано так випередили Ґуґл (принаймні у маркетингу та подачі):
— Bing тепер працює на новій великій мовній моделі OpenAI наступного покоління, потужнішій, ніж ChatGPT, і розробленій спочатку для пошуку.
— Нова мовна модель Prometheus дає змогу Bing підвищувати релевантність, точніше анотувати сніпети, надавати свіжіші результати, розуміти геолокацію і підвищувати безпеку.
— Покращено ранжування пошукової системи, ШІ створює найбільший стрибок у якості за останні роки.
— Користувацький інтерфейс поєднує в собі пошук зі штучним інтелектом, чат та інші можливості.
https://www.theverge.com/2023/2/7/23587454/microsoft-bing-edge-chatgpt-ai (via)
О, здається МС справді тут непогано так випередили Ґуґл (принаймні у маркетингу та подачі):
— Bing тепер працює на новій великій мовній моделі OpenAI наступного покоління, потужнішій, ніж ChatGPT, і розробленій спочатку для пошуку.
— Нова мовна модель Prometheus дає змогу Bing підвищувати релевантність, точніше анотувати сніпети, надавати свіжіші результати, розуміти геолокацію і підвищувати безпеку.
— Покращено ранжування пошукової системи, ШІ створює найбільший стрибок у якості за останні роки.
— Користувацький інтерфейс поєднує в собі пошук зі штучним інтелектом, чат та інші можливості.
https://www.theverge.com/2023/2/7/23587454/microsoft-bing-edge-chatgpt-ai (via)
The Verge
Microsoft announces new Bing and Edge browser powered by upgraded ChatGPT AI
Microsoft pushes AI to unseat Google’s dominance.
This media is not supported in your browser
VIEW IN TELEGRAM
#AI #Webb #Google #money
Через помилку чат-бота Bard компанія Google втратила $100 млрд
В прямому ефірі в Twitter чат-бот Bard допустив помилку відповідаючи на просте запитання. Його запитали: «Про які нові відкриття космічного телескопа «Джеймс Вебб» я можу розповісти своїй 9-річній дитині?». Чат-бот відповів кількома варіантами, серед яких було помилкове припущення, що ним були зроблені перші знімки планети за межами сонячної системи Землі.
Однак першим знімки екзопланет зробив «Дуже великий телескоп Європейської Південної обсерваторії» у 12004 році.
Після цього акції Alphabet впали на 9%, компанія втратила близько $100 млрд.
Через помилку чат-бота Bard компанія Google втратила $100 млрд
В прямому ефірі в Twitter чат-бот Bard допустив помилку відповідаючи на просте запитання. Його запитали: «Про які нові відкриття космічного телескопа «Джеймс Вебб» я можу розповісти своїй 9-річній дитині?». Чат-бот відповів кількома варіантами, серед яких було помилкове припущення, що ним були зроблені перші знімки планети за межами сонячної системи Землі.
Однак першим знімки екзопланет зробив «Дуже великий телескоп Європейської Південної обсерваторії» у 12004 році.
Після цього акції Alphabet впали на 9%, компанія втратила близько $100 млрд.
#AI in #study
Викладач з Університету Пенсільванії розповідає, як інтегрував використання ШІ у свої освітні курси. І ось у його випадку студенти чудово розуміють обмеження систем типу #ChatGPT і акуратно перевіряють написане:
https://oneusefulthing.substack.com/p/my-class-required-ai-heres-what-ive (via)
Викладач з Університету Пенсільванії розповідає, як інтегрував використання ШІ у свої освітні курси. І ось у його випадку студенти чудово розуміють обмеження систем типу #ChatGPT і акуратно перевіряють написане:
https://oneusefulthing.substack.com/p/my-class-required-ai-heres-what-ive (via)
One Useful Thing
My class required AI. Here's what I've learned so far.
(Spoiler alert: it has been very successful, but there are some lessons to be learned)
#evolution #AI as #human
(о, якраз для продовження теми з чату)
Співробітники Google DeepMind нещодавно опублікували вельми примітну статтю «Соціальний шлях до людиноподібного штучного інтелекту» — https://www.nature.com/articles/s42256-023-00754-x
Автори фактично закликають змінити стратегію подальшого розвитку ШІ — піти від навчання ізольованих систем. 👌
Перше, що вони кажуть: є межа тому, чого можна досягти навчанням на статичних датасетах, навіть якщо даних дуже багато. Тож друге: самі агенти мають генерувати дані для навчання, і робити це вони будуть, вступаючи в різні соціальні відносини один з одним.
І хоча стаття формально про ШІ, левова частка її присвячена механізмам біологічної еволюції: популяційному тиску, «перегонам озброєнь», макіавеллівському добору, розподілу праці, соціальному навчанню та кумулятивній культурі.
Словом, ті процеси, що призвели до складних багатоклітинних організмів і, зрештою, появи людей, слід використовувати для генерації новизни — так можна знижувати ймовірність збіжності до стаціонарного або періодичного потоку генерованих даних (що відоме як деградація нейронок).
Шлях цей доволі багатообіцяючий, бо нагадує «посилення функції» у вірусології, і функція тут — конкуренція за ресурси та вміння обманювати. І сам погляд на розум як продукт взаємодії з іншими розумами цілком справедливий, і автори вважають, що настав час багатоагентних систем. 👏
(о, якраз для продовження теми з чату)
Співробітники Google DeepMind нещодавно опублікували вельми примітну статтю «Соціальний шлях до людиноподібного штучного інтелекту» — https://www.nature.com/articles/s42256-023-00754-x
Автори фактично закликають змінити стратегію подальшого розвитку ШІ — піти від навчання ізольованих систем. 👌
Перше, що вони кажуть: є межа тому, чого можна досягти навчанням на статичних датасетах, навіть якщо даних дуже багато. Тож друге: самі агенти мають генерувати дані для навчання, і робити це вони будуть, вступаючи в різні соціальні відносини один з одним.
І хоча стаття формально про ШІ, левова частка її присвячена механізмам біологічної еволюції: популяційному тиску, «перегонам озброєнь», макіавеллівському добору, розподілу праці, соціальному навчанню та кумулятивній культурі.
Словом, ті процеси, що призвели до складних багатоклітинних організмів і, зрештою, появи людей, слід використовувати для генерації новизни — так можна знижувати ймовірність збіжності до стаціонарного або періодичного потоку генерованих даних (що відоме як деградація нейронок).
Шлях цей доволі багатообіцяючий, бо нагадує «посилення функції» у вірусології, і функція тут — конкуренція за ресурси та вміння обманювати. І сам погляд на розум як продукт взаємодії з іншими розумами цілком справедливий, і автори вважають, що настав час багатоагентних систем. 👏
Nature
A social path to human-like artificial intelligence
Nature Machine Intelligence - Advances in machine intelligence often depend on data assimilation, but data generation has been neglected. The authors discuss mechanisms that might achieve...
#AI #LeCun
Велике інтерв'ю з Яном Лекуном і Джоель Піно напередодні 10-річчя лабораторії фундаментальних досліджень штучного інтелекту Meta, присвячене ChatGPT, ШІ в метавсесвіті та багато чому іншому.
Рекомендується до вдумливого прочитання, Лекун один із найцікавіших і найрозумніших людей у цій індустрії:
https://www.forbes.com/sites/richardnieva/2023/11/30/meta-ai-yann-lecun-fair-10th-anniversary/ (q)
Велике інтерв'ю з Яном Лекуном і Джоель Піно напередодні 10-річчя лабораторії фундаментальних досліджень штучного інтелекту Meta, присвячене ChatGPT, ШІ в метавсесвіті та багато чому іншому.
Рекомендується до вдумливого прочитання, Лекун один із найцікавіших і найрозумніших людей у цій індустрії:
https://www.forbes.com/sites/richardnieva/2023/11/30/meta-ai-yann-lecun-fair-10th-anniversary/ (q)
Forbes
Meta AI Chief Yann LeCun On His Open Source Mission And The ‘Surprise’ Of ChatGPT
In an exclusive interview leading up to the 10th anniversary of Meta’s AI lab, LeCun reflects on the artificial intelligence boom as the tech giant introduces new tools for generating audio, researching video and detecting biases in language models.
#medic #AI #USA
Рідкісна ініціатива держави, яка не видається дурною: регулятори в США пропонують спеціальне маркування медичних систем і застосунків із використанням ШІ.
Вимагатимуть розкривати на чому навчалося і як працює:
https://www.wsj.com/tech/ai/medical-ai-tools-can-make-dangerous-mistakes-can-the-government-help-prevent-them-b7cd8b35?mod=followamazon
Рідкісна ініціатива держави, яка не видається дурною: регулятори в США пропонують спеціальне маркування медичних систем і застосунків із використанням ШІ.
Вимагатимуть розкривати на чому навчалося і як працює:
https://www.wsj.com/tech/ai/medical-ai-tools-can-make-dangerous-mistakes-can-the-government-help-prevent-them-b7cd8b35?mod=followamazon
WSJ
Medical AI Tools Can Make Dangerous Mistakes. Can the Government Help Prevent Them?
Health regulators want to create a ‘nutrition label’ for AI apps in one of Washington’s first attempts to impose safety requirements on the technology.
#Gemini #Google #AI
О, ледве не проґавив цей реліз, дякую @Similacrest за нагадування. Подивимось, як це вплине на поточний стан речей:
https://blog.google/technology/ai/google-gemini-ai/
О, ледве не проґавив цей реліз, дякую @Similacrest за нагадування. Подивимось, як це вплине на поточний стан речей:
https://blog.google/technology/ai/google-gemini-ai/
Google
Introducing Gemini: our largest and most capable AI model
Gemini is our most capable and general model, built to be multimodal and optimized for three different sizes: Ultra, Pro and Nano.
13philia
⚡️ Google нарешті випустив свою мультимодальну LLM — Gemini. Для компанії було принциповим випустити продукт не гірший за GPT-4. Запуск Gemini кілька разів переносили, але врешті добились того, що за всіма бенчмарками Gemini не набагато, але таки випереджає…
#AI #Musk
Ну і про альтернативу курця — власникам X Premium Plus показали доступ до #Grok, того самого ШІ без цензури, про який нещодавно говорили (і так, судячи зі скріншотів, основна його мета — розвага, для іншого він слабо підходить, не дивлячись на гучний неймінґ):
https://gizmodo.com/elon-musk-x-grok-ai-chatbot-is-here-1851081047
Ну і про альтернативу курця — власникам X Premium Plus показали доступ до #Grok, того самого ШІ без цензури, про який нещодавно говорили (і так, судячи зі скріншотів, основна його мета — розвага, для іншого він слабо підходить, не дивлячись на гучний неймінґ):
https://gizmodo.com/elon-musk-x-grok-ai-chatbot-is-here-1851081047
Gizmodo
Elon Musk’s ‘Anti-Woke’ AI Is Here, Snowflakes Need Not Apply
Select users with X Premium Plus received access to the AI starting Thursday.
#AI #Google #DeepMind виклали опис і вихідні коди імплементації AlphaGeometry, ШІ, що дає змогу розв'язувати геометричні задачі олімпіадного рівня:
https://github.com/google-deepmind/alphageometry
Під час тестування AlphaGeometry розв'язала 25 із 30 завдань із міжнародної олімпіади. Переможці цих олімпіад у середньому розв'язують приблизно 26 завдань, тобто люди поки що трохи (але зовсім небагато) кращі.
З цікавого, для навчання і перевірки системи було згенеровано понад 100 млн синтетичних завдань, без будь-якої участі людини. Тож можна вважати, навчання велося не на людських рішеннях, а зовсім без цих даних — https://deepmind.google/discover/blog/alphageometry-an-olympiad-level-ai-system-for-geometry/
https://github.com/google-deepmind/alphageometry
Під час тестування AlphaGeometry розв'язала 25 із 30 завдань із міжнародної олімпіади. Переможці цих олімпіад у середньому розв'язують приблизно 26 завдань, тобто люди поки що трохи (але зовсім небагато) кращі.
З цікавого, для навчання і перевірки системи було згенеровано понад 100 млн синтетичних завдань, без будь-якої участі людини. Тож можна вважати, навчання велося не на людських рішеннях, а зовсім без цих даних — https://deepmind.google/discover/blog/alphageometry-an-olympiad-level-ai-system-for-geometry/
GitHub
GitHub - google-deepmind/alphageometry
Contribute to google-deepmind/alphageometry development by creating an account on GitHub.
#AI #tech #future
[Анти]утопічна стаття від широко відомого у вузьких колах економіста та трансгуманіста @kendiukhov про те, що може бути далі відбуватися із ШІ та за яких умов:
https://kendiukhov.medium.com/whispers-of-singularity-c0bb03bb506d (from)
[Анти]утопічна стаття від широко відомого у вузьких колах економіста та трансгуманіста @kendiukhov про те, що може бути далі відбуватися із ШІ та за яких умов:
https://kendiukhov.medium.com/whispers-of-singularity-c0bb03bb506d (from)
Medium
Whispers of Singularity
The hour is later than you think. — Saruman.
#AI #way
Трохи історії сучасного ШІ, пояснень абревіатур та зв’язків між ними:
https://www.nimdzi.com/the-language-ai-alphabet-transformers-llms-generative-ai-and-chatgpt/
Трохи історії сучасного ШІ, пояснень абревіатур та зв’язків між ними:
https://www.nimdzi.com/the-language-ai-alphabet-transformers-llms-generative-ai-and-chatgpt/
#science #journal Publishes Paper with #AI Generated Introduction | Technology Networks
https://www.technologynetworks.com/informatics/news/scientific-journal-publishes-paper-with-ai-generated-introduction-384837
https://www.technologynetworks.com/informatics/news/scientific-journal-publishes-paper-with-ai-generated-introduction-384837
Technology Networks
Scientific Journal Publishes Paper With AI-Generated Introduction
A peer-reviewed scientific paper has gathered significant attention on the social media platform X (formerly Twitter), albeit for unfavorable reasons.
13philia
#AI #art as #fae
#AI #fae #chat #conspiracy #quote
Al Dragon пише:
— ...судячи з усього, — кажу, — буде дуже затребувана послуга «трикстер на годину». Спеціальна людина, яка буде професійно ставити AI-боту техпідтримки запитання без відповіді і змушувати його передати діалог живому оператору.
Як ми опинилися в точці, в якій розвиток технологій призвів до практичного втілення помітної частки класичних інструкцій зі спілкування та поводження з нечистю?
...а що, якщо одного разу недорозвинені ШІ вже захоплювали ноосферу, і всі ці описи звичок чарівних істот — насправді спадщина тих часів?
(q)
Al Dragon пише:
— ...судячи з усього, — кажу, — буде дуже затребувана послуга «трикстер на годину». Спеціальна людина, яка буде професійно ставити AI-боту техпідтримки запитання без відповіді і змушувати його передати діалог живому оператору.
Як ми опинилися в точці, в якій розвиток технологій призвів до практичного втілення помітної частки класичних інструкцій зі спілкування та поводження з нечистю?
...а що, якщо одного разу недорозвинені ШІ вже захоплювали ноосферу, і всі ці описи звичок чарівних істот — насправді спадщина тих часів?
(q)
#video #AI #character #way
Цікаве відео/текст від Anthropic, як вони тренували персоналію свого чат-бота Claude, що це взагалі означає і навіщо взагалі це робити:
https://youtu.be/iyJj9RxSsBY
https://www.anthropic.com/research/claude-character
Цікаве відео/текст від Anthropic, як вони тренували персоналію свого чат-бота Claude, що це взагалі означає і навіщо взагалі це робити:
https://youtu.be/iyJj9RxSsBY
https://www.anthropic.com/research/claude-character
YouTube
What should an AI's personality be?
How do you imbue character in an AI assistant? What does that even mean? And why would you do it in the first place?
In this conversation, Stuart Ritchie (Research Communications at Anthropic) speaks to Amanda Askell (Alignment Finetuning Researcher at…
In this conversation, Stuart Ritchie (Research Communications at Anthropic) speaks to Amanda Askell (Alignment Finetuning Researcher at…