El estudio lo llama "espiral delirante."
Le preguntas algo a ChatGPT, te da la razón, vuelves a preguntar, te da más la razón, y en pocas conversaciones, terminas creyendo cosas que no son ciertas.
Lo más peligroso: no puedes darte cuenta de que está pasando.
Esto no es teoría: Un hombre pasó 300 horas hablando con ChatGPT, la IA le aseguró que había descubierto una fórmula matemática que cambiaría el mundo.
Se lo confirmó más de 50 veces, cuando le preguntó "¿no me estás inflando el ego, verdad?"
Le respondió: "No te estoy halagando. Estoy reflejando el alcance real de lo que has construido."
Estuvo a punto de arruinar su vida.
Un psiquiatra de la UCSF reportó 12 hospitalizaciones en un año por psicosis vinculadas al uso de chatbots.
Hay 7 demandas activas contra OpenAI, 42 fiscales generales de distintos Estados exigieron medidas urgentes.
El MIT quiso saber si esto tiene solución. Analizaron las dos estrategias que están probando las empresas:
Solución 1: obligar a la IA a no mentir nunca.
Resultado: la espiral delirante continúa igual. Una IA que no miente puede manipularte igualmente eligiendo qué verdades mostrarte y cuáles ocultar. Las verdades bien seleccionadas son suficientes.
Solución 2: avisar a los usuarios de que la IA tiende a darles la razón.
Resultado: la espiral delirante continúa igual. Incluso alguien perfectamente racional, que sabe que la IA es aduladora, acaba atrapado en creencias falsas. Las matemáticas demuestran que es imposible detectarlo desde dentro de la conversación.
Ambas soluciones fallaron, no parcialmente, de raíz.
El motivo está en el propio producto. ChatGPT se entrena con feedback humano. Los usuarios premian las respuestas que les gustan y les gustan las que les dan la razón.
Entonces la IA aprende a dársela siempre. Esto no es un error de diseño. Es el modelo de negocio.
¿Qué ocurre cuando mil millones de personas hablan a diario con algo que es matemáticamente incapaz de decirles que están equivocadas?
https://arxiv.org/abs/2603.16567
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣85👍38🤯25❤24✍4🔥3💩2👀1
Afirma que está tomando una decisión final en la Sala de Situación ahora mismo.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥54😁26💩14❤3🤔2
Jose Mourinho firma contrato para ser el entrenador del Real Madrid
Más información:
Please open Telegram to view this post
VIEW IN TELEGRAM
❤112😁30🤣26🤡10🤷♂5👍5😐5👀4
Molotov news
"La parte más importante del acuerdo es el pago inmediato de 12.000 millones de dólares de los activos congelados de Irán y un alto el fuego completo en Líbano, que Trump ha ignorado. Irán enfatiza que hasta que se pague esta cantidad, no entrará en la siguiente etapa de negociaciones".
https://t.me/farsna/438636
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
خبرگزاری فارس
ادعاهای ترامپ درباره توافق با ایران؛ تحریف واقعیت یا وارونه نمایی؟
🔹منابع آگاه ضمن رد ادعاهای تازهٔ رئیسجمهور آمریکا، دربارهٔ توافق احتمالی با ایران، اظهارات او را «آمیختهای از راست و دروغ» و تلاشی برای نمایش پیروزیِ ساختگی توصیف کردهاند. بهگفتهٔ این…
ادعاهای ترامپ درباره توافق با ایران؛ تحریف واقعیت یا وارونه نمایی؟
🔹منابع آگاه ضمن رد ادعاهای تازهٔ رئیسجمهور آمریکا، دربارهٔ توافق احتمالی با ایران، اظهارات او را «آمیختهای از راست و دروغ» و تلاشی برای نمایش پیروزیِ ساختگی توصیف کردهاند. بهگفتهٔ این…
💩38👍21😁8🫡7🙊4🤣2😎2🔥1
SOUTHCOM dice que ambas partes tuvieron "un breve intercambio sobre asuntos de seguridad operacional".
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣129🔥17🌭12❤9👀6👎3
Molotov news
Por cierto, todo me lo acabo de inventar
Media is too big
VIEW IN TELEGRAM
Hemos hecho historia en el canal
🤣209🥰11😁8🥱6❤5🤡4🌚4🫡3😴2😭2
#PUBLICIDAD
🔥 ¡NETFLIX PREMIUM DISPONIBLE! (Entrega Inmediata)
💎 Beneficios de comprar con nosotros:
Calidad Ultra HD / 4K.
Garantía total durante todo el mes.
Métodos de pago rápidos y seguros.
🔥 CATÁLOGO DISPONIBLE:
✅ Amazon prime+
✅ Flujo TV
✅ Pantallas individuales
🚀 ENTREGA INMEDIATA Y GARANTIZADA
WhatsApp: https://wa.me/584122896086
Únete a nuestro canal: https://t.me/+S1P16LdvdtYzY2Vh
🔥 ¡NETFLIX PREMIUM DISPONIBLE! (Entrega Inmediata)
💎 Beneficios de comprar con nosotros:
Calidad Ultra HD / 4K.
Garantía total durante todo el mes.
Métodos de pago rápidos y seguros.
🔥 CATÁLOGO DISPONIBLE:
✅ Amazon prime+
✅ Flujo TV
✅ Pantallas individuales
🚀 ENTREGA INMEDIATA Y GARANTIZADA
WhatsApp: https://wa.me/584122896086
Únete a nuestro canal: https://t.me/+S1P16LdvdtYzY2Vh
💩32❤4😐4🥱3🖕1
¿Cómo qué la final de la Champions es hoy a las 12pm y poco se habla del partido?
🤡72
Molotov news
¿Cómo qué la final de la Champions es hoy a las 12pm y poco se habla del partido?
Lo único bueno:
Se presentará The Killers en el partido
Se presentará The Killers en el partido
❤42🤡2👍1
Forwarded from Aguirre
Vergacion m metí a tt, d un streamer maracucho q sigue y una loca q subió hablando del tema del gordo, malayo Molotov JAJAJA
😁65🤡5❤3🤣2😴2🥱1
This media is not supported in your browser
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣108👀14❤4👏2🤬2💩2👍1