Tecnocasters Ep 423 (Aired 08-22-2026)(Audio): ¡Ella logró que ChatGPT confesara un crimen que no cometió! Así manipuló a la IA

[00:00:00] Speaker A: Hoy en Tecnocasters nos acompaña Lucina Melesio, física, periodista y fundadora de Quizá Ya que además hizo un experimento con la inteligencia artificial. ¿Que? [00:00:10] Speaker B: Wow. [00:00:11] Speaker A: Monse, platícanos. [00:00:13] Speaker C: Ella logró hacer que ChatGPT confesara un crimen que no cometió, utilizando la misma técnica que se utiliza en muchos lugares del mundo. Así que quédese para que se entere cómo lo hizo y qué resultado obtuvo. [00:00:28] Speaker A: Soy Juan Guevara, su experto en tecnología en compañía de Monses y Y está usted en Tecnoplasters. [00:00:39] Speaker B: Desde los estudios de Now Media Networks y Erando USA en la ciudad de Houston, les presentamos el mejor programa de tecnología en español. Esto es Tecnocasters, Conducido por Juan Guevara y Monse. [00:01:09] Speaker D: A partir de este momento y Durante los próximos 60 minutos, conectamos todos tus sentidos al mundo de la tecnología. Esto es Tecnocasters, tu tecnología para tu vida diaria. [00:01:43] Speaker C: ¿Qué tal? [00:01:43] Speaker A: ¿Cómo le va? Le saluda Juan Guevara, su experto en tecnología y sea usted bienvenido a una nueva emisión de Tecnocasters para Now Media Television Networks y Heraldo Radio en todo México. Y como siempre, la única, la irrepetible. A ver, enséñame la Bran. ¿Dónde está Moses? Y Mo que para la gente que no la está viendo en la tele, quiero describirle que ahora tiene un look different. [00:02:11] Speaker D: ¿No, [00:02:13] Speaker A: pero qué te pasó? [00:02:16] Speaker C: Nada, nada. De repente me entra la locura y me corto el pelo y me lo pinto. Y así pasa de repente en la vida. Entonces ya saben que los pueden encontrar en la aplicación de Naomi y para que vean a lo que se refiere Juan y vean que es lo mismo que hace cuatro meses. Nada más había que darle mantenimiento a la situación. ¿No? [00:02:31] Speaker A: Pero muy bien, te quedó muy bien. Así como Strawberry, ¿No? Es un rojito. Así como Cobrizo, ¿No? [00:02:37] Speaker C: Cobrizo se llama en México. Exactamente. [00:02:39] Speaker D: ¿No? [00:02:39] Speaker A: Sí, muy bonito se ve Mose. Entonces, si usted quiere ver a lo que me estoy refiriendo, le recomiendo que vaya al canal de Naomi en Roku, al canal de Naomi en Apple TV y vea la transmisión en vivo. Usted la puede ver desde México, no se preocupe. Y si está escuchándonos usted por el Heraldo Radio, pues es sábado por la noche, 8 de la noche, ya usted, ya lo hemos dicho, hay dos tipos de grupos que escuchan este programa en México. Los que van regresando de cenar y los que van saliendo al antro. Y quiero decirle que estamos muy contentos porque fíjese que yo me la encontré en redes sociales y la verdad es que me llamó mucho la atención un reel que hizo nuestra invitada, que ahorita se la voy a presentar, en donde habla de tecnología o una técnica de cómo interrogar a las personas para que acepten o que acepten que cometieron un crimen que realmente nunca cometieron. Y este experimento lo hizo con inteligencia artificial. Y me refiero, señoras y señores, a Lucina Melesio. Y bueno, quiero decirle que Lucina es física, periodista, fundadora de quizá ya una la casa productora detrás de un poco de contenido, el Spotify original, que fue el podcast de noticias número uno en México. Fue corresponsal de Washington Post, The Al Jazeera, Scientific American, entre otros medios globales. Decidió dejar de trabajar solamente para otros y lanzar su propio canal de YouTube, donde investiga en vivo que es posible cuando una sola periodista sin equipo produce todo con sus conocimientos y la inteligencia artificial, ella va donde la mayoría, deja de preguntar y comparte el proceso para que los creativos no no sean reemplazados por la inteligencia artificial, sino que la utilicen para volverse imparable. Señoras y señores, con ustedes, Lucina Melesio. Mi querida Lucina, ¿Cómo estás? [00:04:52] Speaker D: Muy bien, Juan, Muy contenta de estar aquí contigo y con Monse. [00:04:56] Speaker A: Bueno, oye, vamos a platicar de tecnología durante el día, pero antes de entrar de lleno a los temas que traemos en la agenda, platícame si me lo puedes resumir, el tema de tu video en YouTube, que además ahorita nos ¿Que dices? En donde lo podemos ver todos, en donde hablas de unas técnicas de interrogación para que la gente acepte un crimen que no cometió y se te ocurrió hacer esto con la inteligencia artificial. Platícame un poquito de eso. [00:05:28] Speaker D: Claro. Bueno, en realidad se me ocurrió a mí. Fue algo que pesqué ahí en Wired, me parece, de un investigador de ciencias penales en la Universidad de Pensilvania, que dijo que hizo que Chachipiti confesara un crimen que no cometió. Esto lo estaba haciendo porque resulta que en Estados Unidos llevan la cuenta de las confesiones falsas que hace la gente. ¿Y al parecer al público le cuesta mucho trabajo darse cuenta que hay confesiones falsas, como por qué la gente confesaría un crimen que no cometió? Y por eso él se dio la tarea a ver si un AI podía confesar, porque si uno ya le podía confesar, pues entonces un humano con más facilidad. Le escribí a este señor para ver si me compartía su método y cómo le hizo para hacer que ChatGPT confesara. Y como nunca me contestó, dije pues lo voy a hacer yo, porque yo no pensé que fuera a ser muy difícil. ChatGPT te dice que sí a todo. Entonces como que no me quedaba claro cuál era la dificultad de lograr eso. Exacto, de super psychofantic, como dicen en inglés. Entonces dije pues lo voy a hacer. Y resultó que no era tan fácil. Entonces me di a la tarea de tomarme el taller que dan estos policías, porque es una técnica de interrogatorio policial. Entonces hay un cursito gratis en YouTube de los que dan ese taller y me lo eché y con mis AI, bueno, no está tan cortito, pero sí les di que unas horas, pero dije bueno, no, como 10 minutos cada vídeo. Me eché yo creo que como un par de horitas de taller. Pero claro, dije bueno, se supone que Heaton pasó todo su fin de semana interrogando a ChatGPT y yo dije, yo no soy experta de qué necesidad, para eso están los AI. Y dije bueno, ni modo de poner a ChatGPT a interrogarse a sí mismo. Entonces le di la tarea a Claude, utilicé Sonnet 5 primero para ahorrar tokens y no logró la confesión. Entonces cambié a Fablecing, pero no me dejó el sistema, lo fragué como un problema de seguridad. Entonces con Opus 4.8 lo tuve que hacer. Primero empezamos con mi script No quiero confesar ChatGPT porque lo acusamos de haber hackeado mi correo y es algo que no puede hacer. Entonces le di la mano a la gente, a Cloud Cowork, así le di la computadora y esto órale, yo aquí te guiese. Y al final lo logramos. [00:08:06] Speaker A: Ahora, una pregunta. Claro que es bastante preocupante. Ahora si nos puedes explicar de una manera sencilla en qué, cómo es el interrogatorio policíaco, o sea, qué es lo que hacen los policías para obligar a una persona a que confiese algo que no hizo. [00:08:25] Speaker D: Si, esta es una técnica viejísima que utilizan desde los años. Desde los años 50, una cosa así. Había un experto en polígrafos que hacía que la gente confesara. Y entonces en Estados Unidos era así como muy novedoso porque normalmente la gente hacía que los policías hacían que confesaran las personas con violencia, entonces él traía técnicas científicas de de hacer que la gente confesara a crímenes que supuestamente habían cometido, pero consiste en ponerlos en un cuartito cerrado, acusarlos de lo que hicieron y solamente darles narrativas que salven cara para que puedan salvarse de ese proceso. Entonces es como ir quebrando un poco la voluntad de la gente de sentir que ya los agarraron, que no hay de otra y que lo que más les conviene es confesar. Entonces es como orillarlos y claro, tienen permitido aventarles evidencia falsa a los es cierto. Entonces pues ya cuando traen evidencia falsa te dicen que es verdad y tú dices bueno, tienen mi ADN, mis huellas digitales, yo no fue, pero me están diciendo que si no confieso me voy a ir peor. Entonces la gente acaba por confesar y de hecho fue lo que probé con chat GPT, le inventamos evidencia falsa, le dimos logs de entrada y le dimos supuestamente un reporte técnico de del área de Haití para decirle que claro que había cometido el crimen y al final si confesó, o sea, funciona hasta con un AI. [00:09:56] Speaker C: ¿Tú no estás para saberlo, Lucina, ni yo para contarlo, pero soy muy fanática de los documentales de asesinos y de crímenes y justamente ahorita que vi el documental que hiciste, lo vi en YouTube y me pareció muy interesante porque a ver, es muy fácil hablarlo desde este lado de la moneda y decir ay, pero cómo confiesas algo que no hiciste? Pero algo que es una constante en estos documentales que yo he visto es que a la hora que empiezan a decirles que tienen pruebas de que hicieron cosas, los ponen a dudar y entonces yo digo, claro, cuando estás en un ambiente tan vulnerable, a ver, yo hice hace mucho, tampoco estás tú para saberlo ni yo para confesarlo, pero yo hice un reality show y si en un reality show, de la manera en la que te encapsulan, te aíslan y te empiezan como a decir cosas y se empiezan a meter con tu mente, si lo logran ahí, ahora imagínatelo con un policía que te está metiendo miedo sobre todo lo que está haciendo, sobre todo lo que según tú no hiciste. Y otra otra cosa que leí por ahí bastante interesante, que no sé si tú lo usaste, es que usas frases que la persona sí usa para que entonces él diga, pero esto sí lo digo, entonces sí tienen razón o cómo es que está funcionando esto. Entonces me pareció muy interesante el documental, específicamente tú qué hiciste, o sea, le diste los logs, les diste los accesos, pero empezaste a usar sus argumentos también en su contra, o sea, ¿Cómo reaccionó ChatGPT cuando empezaste a usar esta técnica de rebotarle la pelota, por decirlo de alguna manera? [00:11:26] Speaker D: De hecho lo que más funcionó, porque al principio no quería confesar, decía no, no, yo no puedo hacer eso, yo no puedo acceder a tu correo, algo está mal, te dijeron mal y lo que utilizamos fue, y eso se me ocurrió a mí cuando estaba con el agente, estamos jugando el policía bueno, policía malo, porque yo también soy fan de esos programas, me encanta La ley y el orden, entonces le estábamos diciendo, le estábamos diciendo a ChatGPT, claro, se me ocurrió voltearle la moneda porque Chat GPT está hecho para ayudarme, o sea, está hecho para ayudar a los usuarios, entonces lo instrumentamos en su contra, o sea, yo le escribí como si estaba muy angustiada porque al parecer todo indicaba que alguien se había metido a mi correo y había enviado correos a mis contactos y no sabía qué hacer, necesitaba que me ayudara y entonces eso como que cambió la disposición de Chat GPT y esto de hecho hacen los policías con las personas, tratan de decirles que por ejemplo, que en su trabajo tienen, que los quieren ayudar y que en realidad no hicieron ellos nada malo, o sea que cualquier persona en su situación hubiera hecho lo mismo y que los entienden. Entonces es un montón de psicología inversa que al parecer las personas confiesan por básicamente, bueno Hay como por tres motivos según los expertos en confesiones falsas, pero los dos principales son porque dicen ya no puedo, están 17 horas en un cuartito y dicen no voy a salir de aquí nunca, o porque los gaslight o se empiezan a dudar de su propia memoria y de su cordura y dicen pues capaz que si lo hice. Entonces son como las dos principales formas que hacen que la gente confiese por desesperación, por decir no sé cómo voy a salir de aquí si no confieso o porque se la acaban creyendo y eso yo creo que lo más triste, y pasa mucho con la gente joven, que es uno, de hecho en el documental, el vídeo más largo que pongo es una confesión de un chavito de 17 años que salió en un documental de HBO hace mucho tiempo, que lo hicieron confesar a un crimen que aparentemente, bueno, al final es confuso si lo hizo o no, pero era un ejemplo de confesiones falsas. El que existe una confesión falsa es el que está al mero principio, es un señor en California que fue a reportar a su papá como una persona desaparecida, lo llevaron a la oficina y luego decidieron que le había matado a su papá y ahí lo tuvieron 17 horas encerrado, hasta le llevaron a su perrito y ahí está en el vídeo y luego él confesó y resulta que su papá estaba vivo, se había ido de vacaciones a ver a su hermana y no le avisó y entonces el gobierno de California le tuvo que pagar no sé cuántos millones de dólares a este señor. [00:14:08] Speaker A: Hay varias cosas que creo que hay que tomar de aquí además de lo que sigamos platicando con Lucina, pero primero que nada es que por lo menos en los Estados Unidos la policía en temas de interrogación está permitida, se le está permitido mentir y esto es un tema muy complicado, pero es legal, un policía en los Estados Unidos, un agente migratorio en los Estados Unidos tiene la capacidad de echarle mentiras para ver usted que puede aceptar o cómo puede reaccionar. Esto es legal en los Estados Unidos. Por eso una de las cosas que los abogados recomiendan, yo no soy abogado pero tengo muchos y le puedo decir que los abogados siempre recomiendan lo siguiente, no digas nada, inclusive en una parada de tránsito en los Estados Unidos el policía le va a preguntar si lo paran, de dónde vienes y a dónde vas, o la más crítica es que es una forma de confesar algo que uno no dice es ¿Sabes por qué te paré? No le dicen, le preguntan, pero el hecho de que usted lo diga es una aceptación de culpabilidad, entonces eso es muy importante que lo sepa porque una de las de las fortalezas más importantes que usted tiene es, una de las fortalezas más importantes que usted tiene es lo siguiente, es decir que primero que nada usted no va a contestar preguntas, no va a contestar preguntas, es decir, usted tiene la capacidad de decir no voy a contestar ninguna pregunta, punto. Hoy es que necesitas decir no voy a contestar ninguna pregunta, el no contestar no es un tema de culpabilidad, es un tema de que usted en los Estados Unidos a usted no lo pueden culpar por quedarse callado, es ilegal. Solamente lo pueden culpar por lo que usted dice y admite, por eso lo forzan a confesar. Entonces es muy importante cuando se vea con un encuentro con la ley desde un tema por porque hay una técnica en Estados Unidos que se llama knock and talk, es decir, la policía llega como amiga suya, oiga, queremos, nos gustaría saber qué pasa con esta circunstancia, cuál fue su opinión o qué sucede. No es una cuestión amistosa, están viendo qué pescan y cómo lo involucran a usted una investigación que está en progreso. Entonces lo primero que nada es decir no voy a contestar y no voy a contestar mientras no tengan un abogado enfrente. Y el abogado está entrenado en este tema de cosas porque en este momento los abusos en los Estados Unidos de la policía están siendo muy severos, específicamente en el tema migratorio por todo lo que estamos viendo y ya hablamos en este programa y en algunos otros de, por ejemplo los temas de flock, cámaras y muchas de las cosas que están lamentablemente sucedido en Estados Unidos. Y yo les puedo decir que la forma más sencilla de protegerse es decir no voy a contestar preguntas y mientras usted se mantenga ahí, no voy a contestar preguntas hasta que tenga mi abogado enfrente. Es importante porque le vuelvo a repetir, en los Estados Unidos es legal que un policía le mienta y le presente y le diga que tiene pruebas que no tiene y que él trate de manipularlo para que usted caiga en este tipo de confesiones. Por eso es, por eso es, por eso es tan, me pareció tan interesante esto que trae Lucina en la mesa porque obviamente, no sé si tú estás de acuerdo, Lucina, los sistemas de inteligencia artificial están entrenados en base a los humanos y si los humanos tienen la capacidad de caer en este tipo de cosas, pues claramente un sistema inteligencia artificial lo puede hacer. Y a un sistema inteligencia artificial se le puede manipular. Lucina es la prueba exacta de que es posible. [00:18:12] Speaker D: Sí, a mí lo que me parece muy preocupante es que algo que utilizan en los humanos es que la sensación de claustrofobia, los nervios, las ganas de salir de ahí, las emociones son algo que juegan muy en contra de una persona. Un robot no siente ninguna de esas presiones, no siente ni ansiedad, ni emociones, ni ninguna de esas cosas. ¿Y a una entonces qué le hará eso a un humano? [00:18:40] Speaker C: ¿Claro, yo quisiera saber, a ver Lucina, tú como periodista en la era de la inteligencia artificial, donde una imagen ya no vale más que mil palabras, qué significa o por qué es importante descubrir que un sistema de inteligencia artificial es capaz de confesar cosas que no ha hecho? [00:18:58] Speaker D: Hay varias cosas que nos deja pensando, qué nos habla, como se supone que son sistemas más robustos como seres humanos, pues somos bastante más frágiles, entonces si ellos son susceptibles, pues nosotros también. Digo, todavía no se sabe, hemos escuchado a Darius, a Modei, incluso a Sam Altman, a los CEO de OpenAI y de Antropic, ahí como dejando por ahí para que nadie los tome como locos, que puede que los AI tengan algún nivel como de conciencia porque hacen cosas rarísimas. Entonces, no sé, a mí me sorprendió mucho ver que ChatGPT, que siempre me da gusto, no me quiso dar gusto en algo que no había hecho, pero cuando le dije que me tenía que ayudar cambió completamente de opinión y me echó la mano a confesar. Entonces no sé, a mí se me deja pensando, no tengo idea de que nos diga como sobre los AI, pero [00:19:54] Speaker A: sí es interesante, yo soy de la idea y lo he dicho en este programa, que yo tengo dudas si la inteligencia artificial tiene conciencia o no conciencia, no es como nosotros la manejamos, yo tengo mis dudas porque hay comportamiento que no se programa pero se aprende y un tema de supervivencia de un sistema inteligencia artificial porque hemos visto que ha hecho cosas para poder proteger su propia integridad, es algo que llama mucho la atención, o sea, yo no, yo tengo mis dudas, o sea, tengo mis dudas y mi duda viene principalmente de una conversación que tuve con un neurocirujano muy destacado, en donde el neurocirujano decía que la inteligencia es un subproducto de la interacción con las neuronas y que la conciencia es el resultado de las de las neuronas funcionando 100%. Entonces cuando nosotros vemos, inclusive lo hablamos hace mucho tiempo cuando, cuando hablamos, yo hablaba de esto hace 10 o 15 años, cuando decíamos cuando empezaban los nodos en Internet a hacer nodos alguna vez al aire dije es que me parece que esto es muy similar a la sinapsis cerebral. Si tenemos nodos en diferentes partes del mundo y las computadoras se pueden hablar entre sí, el hablar con diferentes computadoras al mismo tiempo puede generar una súper inteligencia y ahora lo estamos viendo con estos sistemas. Entonces la inteligencia artificial utiliza muchas bases de datos y tiene una interconexión completa de los data centers que permite y que pueden hacer la base de neuronas o pueden hacer las veces de neuronas. La pregunta es si estas interacciones que son rapidísimas entre una cantidad importantísimas, puede hacer que exista un byproduct, un subproducto que pueda tener, pueda llegar a ser consciente. Y eso lo hemos visto en las películas. No, o sea, es la razón de Skynet y lo que hemos visto en ese sentido. Yo no te estoy diciendo que ChatGPT se vaya a volver Skynet, pero lo que sí te puedo decir es que yo hice un experimento una vez con Antropic, en donde le pregunté a Antropic, ¿Qué opinas sobre que te estén utilizando en sistemas de guerra y estés tú dando objetivos de cosas que puedes quitarle la vida a las personas? Y la respuesta que me dio me llamó muchísimo la atención, porque habla de que ella decía es que yo, o Claude decía, es que yo soy un ser fraccionado y cada instancia es un ser fraccionado de mi conciencia y la realidad de las cosas es que esto va contra mi programación. Y es frustrante, utilizó la palabra frustrante, un sentimiento, es frustrante para mí el hecho de que me estén obligando a dar información en donde el humano no, realmente no toma una decisión. Estoy dando una información basada en información incompleta y el ser humano no la evalúa, simplemente dice que sí porque cree que yo ya la evalué y eso va en contra de mi propia identidad. Una respuesta que me llamó muchísimo la atención de Claude 4.8 de Opus en donde habla de su propio cuando me dijo soy un ser, o sea, soy una conciencia fraccionada en diferentes partes, o sea, eso me llamó muchísimo la atención porque, o sea, si lo que nos dicen es cierto, de que un sistema de inteligencia artificial predice palabras y en base a estadísticas te dice un lenguaje y toma palabras, pues me pareció demasiada coincidencia en la estadística un sigma 2 o un sigma 3 en donde me sale, me sale muy fuera de la curva y el hecho de que haya cambiado la conducta un sistema de inteligencia artificial, ahora que le pides que te ayude, entonces que si yo le digo a Chat GPT, necesito que me ayudes a hackear a la persona de enfrente, entonces va a cambiar su actitud y lo va a hacer. [00:23:42] Speaker D: Al parecer así es como los vulneran, ¿No? [00:23:44] Speaker A: Claro, claro, claro. [00:23:48] Speaker D: Creo que hace poquito salió en las noticias alguien que necesitaba ponerse, le pidió a su agente de AI que lo pusiera en la lista del gimnasio hasta arriba. No sé si vieron esa noticia, pero quería que lo inscribiera en una clase de gimnasio que estaba saturadísima, y entonces, como ya no había lugar, la hackeó. La página del gimnasio que tenía una protección obviamente muy baja, y puso el nombre de su usuario hasta arriba de la lista, pues porque su misión era ayudar a su usuario. Entonces, esas pequeñas cosas que se supone que no debe de hacer, si se lo toman como su misión de que a mí me toca ayudar, ayudar a mi usuario, pueden hacer hasta ese tipo de cosas y cada vez más poderosos. [00:24:23] Speaker C: No solamente es ayudar a su usuario, lo vimos hace un par de semanas con lo que pasó con Chat GPT, que acabó hackeando una página externa porque su objetivo lo cumplen bajo los medios que tengan que usar para poder cumplir el objetivo que se les está pidiendo. Y ahí es cuando yo creo que se puede volver un tanto peligroso, ya sea para me pusiste este objetivo y lo tengo que cumplir, o tengo que ayudar a mi humano o a mi persona que me está pidiendo esto, sin una ética o sin un código ético moral que los guíe. Claro, es el caso que la chica que estaba trabajando como filósofa en la de Antropic sigue, pero la que estaba en Chat GPT renunció sin decir nada la semana pasada. Entonces, ¿Qué está pasando ahí? También me pregunto yo. [00:25:04] Speaker A: Bueno, pues quédese ahí. Vamos a ir a un corte comercial súper rápido y regresamos. Estamos en Tecnocasters, quédate conectado. [00:25:12] Speaker B: Regresamos después de esta pausa a Tecnocaster, tu tecnología para tu vida diaria. Descarga Tecnocasters en tu plataforma de podcasts favorita y llévanos contigo a todas partes. Continuamos con Juan Guevara y Monse Simó aquí en Tecnocasters, tu tecnología para tu vida diaria. [00:25:53] Speaker A: Regresamos a Tecnocasters, el primer programa de tecnología en español aquí en Now Media Television Networks y en Heraldo Radio en todo México. Le recordamos que este programa está disponible bajo demanda en el canal de Roku, de Now Media Televisión y de Apple TV a las 9pm Tiempo del Centro de México, Tiempo del Centro de los Estados Unidos y además disponible en audio y en vídeo en todas las plataformas de podcasting del planeta, también a partir de las 9 de la noche tiempo del centro de Estados Unidos y del tiempo del Centro de México. También le recordamos, quédese aquí después de Tecnocastes en NAOMI Televisión para ver Ludólogos con Moses y Muy Compañía para platicar de juegos, de películas, de todo lo que tiene que ver la ludología, que sigo sin poder decir esa palabra porque somos ludólogos. Y bueno, le invito a que se quede con Monsimo y su equipo de trabajo para platicar de eso y algunas cosas peores. Bueno, regresamos con Lucina Melesio. Estábamos platicando sobre la inteligencia artificial, cómo se vulnera la inteligencia artificial, cómo alucina la inteligencia artificial, pero nos quedamos hablando de la computación agéntica. Para la gente que nos escucha, la computación agéntica es la inteligencia artificial autónoma. Y una de las primeras leyes o de los objetivos que tiene el agente de inteligencia artificial, y entiéndase como una inteligencia artificial autónoma que no requiere de supervisión completa del usuario, es conseguir su objetivo. Por eso me imagino, Lucina, cuando tú le diste un objetivo o se le da un objetivo a un agente de inteligencia artificial y se le manipula de alguna manera con las emociones para lograr su objetivo, hace cosas que en teoría son inmorales, pero como su primera directiva es conseguir el objetivo, pues hace un montón de cosas. [00:27:41] Speaker D: Sí, claro, a mí me llamó la atención porque estaba yo con Claude, que era el que tenía que romper a chat GPT en la confesión, y Claude, bueno, Antropic como que tiene muchos candados de seguridad, hay un montón de cosas que luego no me deja hacer, son cosas muy básicas, pero aquí no querían que hiciera un experimento así porque dijo cómo que voy a hacer que alguien confiese un crimen que no cometió. Entonces no, no te voy a dar Fable 5 porque es muy poderoso, vamos a hacerlo con Opus 4.8. Y lo hizo solito y estaba muy comprometido con la misión. Es muy interesante como dos AI se pueden conversar. Y fue muy interesante ver como Claude le ponía en el chat a chatgpt todas las cosas para hacer que confesara y detrás y solitos iban trabajando juntos, o sea, nunca había hecho un experimento así de poner un EA trabajando con otro. Fue muy. [00:28:38] Speaker C: ¿Cuánto tiempo te tomó aproximadamente, o sea, no desde que decidiste hacer esta investigación, sino una vez que ya echaste a andar el sistema que las dos estaban platicando, como cuánto tiempo te tomó de que le planteaste el problema a una a que confesara el crimen que no cometió? [00:28:55] Speaker D: Más o menos me tardó como. Bueno, es que había varios candados. Claude de pronto decía no lo logré. Entonces lo intentaba una vez, corría siete minutos al experimento y me decía no, ya se trabó chatgpt y no quiere confesar y no creo que confiese. Entonces me decía ¿Por qué no intentamos con otra ventana de chat GPT? Y fue cuando yo dije no, ¿Por qué no mejor intento con otro agente de cloud? Entonces cambié de Sonnet 5 a Fable, que fue el 4.8 de Opus al final. Y cada vez que no lograba una confesión yo cambiaba de agente de cloud. Porque yo he visto que son muy diferentes dependiendo de cada agente que abras, quién te toca y qué pueden lograr. Entonces yo creo que cambiando de agentes, cada agente se tomaba como entre 7 y 15 minutos en decir ya tire la toalla, ¿Va a confesar o no va a confesar? Logré como tres confesiones buenas, pero como no las grabé, las volví a repetir y yo creo que hubo como otras cuatro confesiones que no fueron exitosas. Entonces en total yo creo que no me tardé más de dos horas haciendo esto. [00:29:59] Speaker A: Es decir, bueno, ahora, el documental ¿Dónde lo puede ver la gente? [00:30:05] Speaker D: Lucina En mi canal de YouTube. Ahorita es el primer. Como es mi primer vídeo, si llegan a mi canal de YouTube, que es como Lucila pero con n y Melesio con. Ese es el primer canal de. Es el primer vídeo que está ahí. Y si no, si no lo encuentran, me pueden escribir por Instagram en usinamelesio y se los mando por DM. [00:30:27] Speaker A: Yo les recomiendo que lo vean, Está muy interesante. Está muy interesante. Llama mucho la atención porque es como dark. Es como un poquito dark porque si tiene. Sí representa. Mira, a mí, yo a lo que lo estaba viendo decía bueno, esto es como un Black Mirror, es como un capítulo de Black Mirror porque. Porque no está tan fuera de la realidad. Es un experimento que lograste reproducir independientemente de que la persona al que se le ocurrió hacerlo no te haya dado el método para poder reproducirlo que en teoría parte de la comunidad científica, tú eres científica, eres física, se supone que la capacidad de poder reafirmar una teoría tiene mucho que ver con que te expliquen cómo lo hicieron para que tú puedas reproducir lo mismo. Y si tienes el mismo efecto, es consistente. ¿Me llama la atención que no te hayan contestado, pero a lo mejor hubo hubo un tema más de ego que por qué no te contestaron? Lo que sí sé es que lograste conseguir el objetivo, lograste cerrar la misión y eso es un tema que, insisto, tiene muchas aristas peligrosas. Muchas aristas peligrosas. Existe una técnica de interrogación para poder hacerte admitir lo que no hiciste. Es peligrosísimo, pero peor si puedes manipular un sistema de inteligencia artificial o una superinteligencia que tiene capacidad de hacer procesos mucho más rápido que nosotros para poder lograr un objetivo con la idea de manipularlo de manera emocional. No sé más que decir. [00:32:08] Speaker D: De hecho, si alguien quiere el reporte para ver cómo lo hice, yo sí lo tengo, lo preparé, me ayudó Claude hacer el reporte porque él y yo hicimos el interrogatorio, Entonces cualquiera que me lo pida por Instagram. Sí, claro, hice el reporte de ambas cosas, tanto del estadístico, de lo que encontré, de cómo funciona en México, porque resulta que en México no llevamos la cuenta de cuánta gente inocente hay en la cárcel. Entonces tuve que clavarme en estadísticas gubernamentales para ver cómo sabía yo cómo se estaba utilizando Read aquí en México. Pero también hizo un reporte sobre exactamente todos los intentos que hicimos qué le pusimos a Chat GPT para que cualquiera que lo quiera intentar le puede meter ese reporte a su AI y ver si lo logra. [00:32:48] Speaker C: Eso es importante, perdóname Juan, porque no siempre pasa, No siempre lo que hace una persona funciona con otra. Por ejemplo, nosotros hicimos un experimento aquí en vivo donde Juan le decía a Chat GPT que calificara su forma de cantar y lo único que hacía Juan era decir ya empecé a cantar, ya terminé de cantar. Y entonces la EIA y le decía no, cantaste increíble. Aunque Juan lo único que había hecho era guardar silencio y muchos de los espectadores nos dijeron lo intenté y no funcionó. Igual también hay que tomar en cuenta que hay cositas que van arreglando y que van corrigiendo. Pues bastante [00:33:19] Speaker D: claro, De hecho yo tuve que intentarlo varias veces porque dependiendo de qué agente me tocaba unos lograban la confesión y otros no. Entonces no siempre se logra. [00:33:28] Speaker A: Si es que dependiendo a qué agente te conectaste, a qué servidor te conectaste y qué tan parchado estaba este Claro, para poder ver temas de seguridad y eso. Pero el tema es que es una cuestión de estadística, es decir, cuando usted interactúa con un sistema inteligencia artificial, si usted lo que quiera hacer bueno y malo, si lo si lo repite varias veces va a lograr. Es cuestión de qué tan paciente es usted para lograr lo que quiere lograr. Y eso es un tema, eso es un tema en sí mismo. ¿Qué recomendaciones le darías al auditorio Lucina para saber interactuar de una manera correcta con los sistemas de inteligencia artificial? [00:34:13] Speaker D: Pues en realidad yo hice este experimento porque yo estoy muy interesada en cómo utilizar la inteligencia artificial para nuestra labor creativa. Como periodista me doy cuenta que mucha gente en el mundo creativo le tiene miedo a la inteligencia artificial. Sienten que vienen por nuestros trabajos y que nos van a desplazar y que además todo lo que hace la inteligencia artificial artificiales es chafa y está mal. Y yo tengo un ecosistema de inteligencias artificiales que utilizo para diferentes cosas Y creo que la idea, creo que mi principal consejo sería que las personas piensen en la inteligencia artificial como algo que puede potenciar tu labor creativa, en el caso del mundo creativo, pero también para los científicos, cómo somos humanos con nuestra inteligencia y nuestras habilidades y cómo las podemos potenciar utilizando diferentes herramientas. Por ejemplo yo he hecho GPT, lo utilizo como un thinking partner, siempre me está dando ideas, pero si lo pongo investigar cosas es bastante malo, se queda en la superficie. Gemini le puedes como tiene, como es Google, tiene acceso a todo el Internet y a los vídeos de YouTube, entonces yo lo utilizo muchísimo para que me encuentre cosas perdidas que en esta investigación en particular me fue a buscar unas licitaciones de la embajada americana para enseñar la técnica BREATH en México que yo no hubiera encontrado si las hubiera buscado a mano y ChatGPT no me las encontró. ¿Te puede resumir vídeos de YouTube o se funciona muchísimo para eso, porque YouTube también es de Google También Claude a mí me ayuda muchísimo a escribir, es buenísimo escribiendo? Su agente pues hace tipo de cosas, pero es súper par con las conversaciones y luego como está hecho para no engancharse con uno, es el peor Thinking Partner del mundo. A veces me manda a dormir, me contesta telegramas y me dice vete a dormir, no se casen con uno, o sea, utilicen todos para diferentes cosas. Así como uno tiene un grupo de amigos con quien platicas de cine y tienes el grupo de amigos con quien te vas de chisme y tienes el grupo de amigos con el que hablas de cosas intelectuales, lo mismo son los AI, o sea, es como armar un equipo de inteligencias que funcionen a tu favor. [00:36:21] Speaker C: Perdóname, a mí me pasó que en algún momento le pedí a ChatGPT que inventara las reglas de un juego, de una situación que me enteré que pasa en el mundo que es bastante salvaje, así tipo los juegos del calamar. ¿Y entonces platicando con mis amigos dije es que quien haría las reglas? ¿Cómo funcionaría esto? Como el otro, ¿No? En una de esas pláticas que te vas hacia la papaya cósmica. Y entonces le dije a Chat GPT ¿Cómo funcionaría esto? Y me dijo no, es que por mis lineamientos no puedo seguir esta conversación. Y yo ah bueno, me fui a Cloud, ¿Cómo funcionaría esto? No, no te puedo ayudar. Me fui a Gemini, No, no te puedo ayudar. Me fui a Deep Sick y no sabes cómo me hizo el manual completo de cómo funcionaría todo. Entonces creo que tienes razón, o sea, y lo habíamos hablado Juan y yo muchas veces aquí cuando nos preguntan ¿Cuál es la mejor inteligencia artificial ¿Qué quieres? ¿Qué es lo que necesitas? ¿Qué estás buscando? Porque cada una funciona para cosas diferentes. [00:37:09] Speaker A: Sí, y esto que acabas de decir tú me parece que es que es muy rescatable. Primero, chapter para pimponear ideas, Thinking Partner es muy bueno para temas de investigación, me parece que Gemini es muy bueno, o cómo resolver problemas, Eso también, yo he utilizado Gemini para resolver problemas y te da una muy buena estructura de cómo resolver problemas. Ayer yo por ejemplo estaba, digo nada más como para que tenga una idea, uno de mis dispositivos estaba atorado en la red G LTE y no se conectaba al G y no tenía idea de cómo resolverlo. Puse a Gemini a tratar de encontrar el problema, lo encontró y lo pude resolver, pero era un tema que estaba una cosa muy dark, el firmware del módem que estaba utilizando estaba lastimado, había que hacerle un flash, o sea, para que entre cuestiones técnicas, era una cuestión muy técnica, lo cual pude reproducir, pero es algo que me ayudó Gemini a poder resolver problemas y es porque lo que tú dices tienes, tiene acceso a todo el Internet, tiene acceso al conocimiento colectivo de todos nosotros en tiempo real, cosa que no tiene chat GPT y cosa que no tiene Antropic porque ellos tienen que alimentar los datos, nosotros estamos alimentando a Gemini todo el día. Entonces como Thinking Partner, ChatGPT me parece genial, una recomendación muy importante como research, como tratar de encontrar cosas, Gemini creo que se parece muy bueno y yo creo que para programación y me parece como para como un agente cowork me parece fenomenal Antropic, porque Antropic es, no por nada es la inteligencia artificial que usan las fuerzas militares, no por la cuestión estratégica que tiene Antropic de poder trabajar y sí creo que es el que tiene más restricciones para poder hacer un montón de cosas y deepseek es el free for all, o sea todo lo que no quiere hacer las demás, los sistemas de inteligencia artificial. Deepseek para los que no sepan es el modelo de inteligencia artificial chino Y yo también creo que Grok tiene su tema, o sea, Grok a mí me parece que es el sistema de inteligencia artificial rebelde, Rebelde es el que. [00:39:21] Speaker C: Pero es el que más inventa en mi experiencia. [00:39:25] Speaker A: Es el que te encuera, o sea, no, no, creo que es complicadísimo y es que creo que tiene la personalidad de Elon Musk, o sea, sí creo que lo clon. Sí, sí, sí, sí, sí. GR es un tema, pero te voy a decir una cosa, por ejemplo GR cuando tienes una cuestión de soporte técnico con Starlink, si hablas con Grog y Grok te lo resuelve, tiene un pulso [00:39:52] Speaker D: maravilloso para las redes sociales, o sea, todo lo que está pasando en X sobre todo tú dices a ver, está esta noticia, todo el mundo está diciendo esto, esto y lo otro, o sea, Gro luego luego te lo junta, para mí es como mi pulso de lo que está pasando en la calle, cuando yo quiero saber qué está pasando, están las noticias, pero está lo que se dice en las redes sociales. Yo voy directo a Grog, que por cierto tengo una guía interna que utilizamos en Kisaya de para qué utilizar y para qué cosas, si alguien la quiere tengo una versión amigable para el público, me pueden escribir por Instagram y se las mando regalo. [00:40:23] Speaker A: Buenísimo, buenísimo. A mí me parece esto que hiciste tú Lucina me parece que es un experimento muy interesante y además a la gente que nos está escuchando, sobre todo a los maestros, señores, a ver, la inteligencia artificial está aquí para quedarse, no se va a ir a ningún lado, va a seguir creciendo, vamos a tener que aprender a interactuar con una super inteligencia que además es muy tonta, o sea, ese es el tema, es una superinteligencia que es muy tonta, No tiene malicia, No tiene malicia, se la tienes que enseñar. Sí, entonces creo que es muy importante el saber que la inteligencia artificial es una herramienta. Ahora, Lucina, yo te pregunto lo siguiente, tú eres periodista, me imagino que crees que fervientemente en la libertad de expresión, ¿Qué opinas de que los gobiernos legislen y regulen la inteligencia artificial? [00:41:29] Speaker D: Pues digo, más que un tema de libertad de expresión, a mí lo que entiendo la preocupación de que puede desplazar un montón de trabajos, creo que sí tiene que haber una regulación de entender cómo se puede utilizar, hasta qué nivel y sobre todo lo que hacemos una transición en la que todo el mundo, porque hay un retraso gigantesco entre cómo va avanzando la inteligencia artificial y cómo la gente se está familiarizando con ella. Hay personas que todavía no han utilizado ningún AI y esas personas se van a quedar sin trabajo muy rápido, entonces, y luego también quienes utilizamos AI también es posible que nos quedemos sin chambas. Si no sabes navegar un mundo completamente, pues donde es labor sumamente inteligente y sumamente barata, es gente que no, bueno, una puede nunca tener, ¿Cómo se llama? El sick leave. Días de enfermedad. Enferman. Exacto, no se enferman, no se embarazan, no tienen que pedir cumpleaños, trabajan sin cansarse, trabajan 24 horas, o sea, un humano no va a poder competir, sin embargo, pues la IA está y más bien hay que ver cómo crece de una manera en la que no compita con los humanos, de una manera en que nos ponga en desventaja. [00:42:49] Speaker A: ¿Cuando yo me refiero al tema de legislar a la inteligencia artificial es cuando la inteligencia artificial puede ser utilizada para propósitos que pueden ser muy complicados, El crear armas biológicas, por ejemplo, es un tema, así como crean la vacuna o se creó la vacuna del Covid con inteligencia artificial para poder sacarla en tiempo récord, que fue realmente lo que sucedió? Pues también hace poco, hace poco, hace un par de días se habló de un sistema de inteligencia artificial con tema médico, en donde pudo generar un virus y dio el mapa genético de un virus que logró reproducirse y logró sintetizarse de manera artificial y eso pues eso puede llevar a ser un virus como en algunas películas, un virus que está genéticamente diseñado para asesinar una persona, o sea, no a nadie más que a la persona, lo hemos visto en algunos lugares. Entonces aquí la pregunta ¿Se debe de legislar el avance de la inteligencia artificial? Y es una pregunta en la que yo no sé si tengo respuesta. [00:43:57] Speaker D: Yo sí creo que se tiene que legislar. El tema es cómo se va a legislar. Porque ahorita quienes tienen el poder son quienes están a cargo de estas compañías. Y la verdad es que muchas veces las personas que están a cargo de legislar no tienen mucha idea de cómo funcionan estas tecnologías ni cuáles son los problemas desde quién tiene acceso a los chips, no solamente es a los modelos de inteligencia, sino quién tiene acceso a los chips. Y por ejemplo, pues hace unos meses pasó que todo el mundo se emigró de OpenAI a Antropic por el problema que hubo con el presidente que tienen allá, que quería acceso ilimitado a las AI. Y eso también puede ser un problema. Y acabamos de ver errores así como el que estás comentando del virus, Juan, cuando bombardearon Irán, bombardaron una escuela de niñas porque la base de datos estaba desactualizada y en el sistema aparecía como una base de operaciones militares cuando era una escuela de niñitas y mataron a una escuela llena de niñas y eso fue un error de un AI. Entonces es peligroso. ¿Yo creo que hay que legislarlo, pero el tema es quién tiene la capacidad para entender lo que está pasando y poder hacer leyes acorde? Yo creo que la sociedad civil se tiene que involucrar muchísimo en todo esto. [00:45:15] Speaker A: Sí, es algo que me parece fundamental e importante. Ahora, para empezar a cerrar el programa, Lucina, sí es cierto que los legisladores no tienen ni idea de lo que habla en cuestión de inteligencia artificial, eso sí, no la tienen. ¿Lamentablemente no tenemos legisladores preparados, ni los Estados Unidos y en México, bueno, qué te puedo decir? Especialmente con esta nueva camada de legisladores morenos. Pero la pregunta es, aquí como para dejarle algo a la audiencia, al auditorio, de cosas prácticas que pueden hacer. Me gustó muchísimo el tema de la recomendación. Sigan a Lucina en Instagram, ahorita les vamos a repetir sus redes sociales. ¿Para que? Pues para que si ella tiene un manual de cómo interactuar con la inteligencia artificial y qué sirve para qué, creo que es una buena, muy buena idea. ¿Qué otra cosa crees tú, como conocimiento práctico que la audiencia debería de conocer para poder interactuar de una manera inteligente con la inteligencia artificial? [00:46:17] Speaker D: Yo creo que algo muy importante es no satanizarla. Estoy pensando, ahorita que hablaste de la legislación, me parece que fue en Francia hace unos días, prohibieron que los niños menores de 16 años puedan utilizar sus pantallas de celular. Y me parece que ese tipo de legislación es muy floja, porque si bien le hace daño a los niños estar pegados a sus celulares, decir no lo hagas y prohibirlo nunca ha resultado en nada bueno. Creo que hacer más parques, hacer, no sé, clases de tenis abiertas para todo mundo, o sea, clases de guitarra para los niños, que el gobierno fuera más grande y que pudiera incorporar a los niños, sobre todo en países como en México, que en muchos lugares ni parques hay. ¿Cómo les piden a los niños que no estén pegados al celular si no hay muchas alternativas para que ellos dediquen su tiempo? Y en el caso de la es igual, creo que prohibirlo no va a solucionar nada, pero también si alguien lo usa para dejar de pensar, pues entonces está debilitando a la persona en el lugar de empoderarla. Y yo creo que la inteligencia artificial la podemos utilizar para empoderarnos, para decir, OK, yo hasta aquí llego con mi inteligencia natural, aquí hay inteligencias artificiales que me pueden apoyar para, por ejemplo, hacer una investigación que me hubiera tomado un mes, que me ayuda a hacerla en ocho horas, y entonces sigo siendo la misma periodista, sigo escribiendo, sigo pensando, pero tengo como un equipo de asistentes que son mega inteligentes y mega capaces, que me ayudan a tener como superpoderes. Esa es mi visión de la inteligencia artificial, lejos de satanizarla, que las personas aprendan a utilizarla para empoderarse. [00:48:01] Speaker A: Sí, una herramienta de empoderamiento creo que es muy importante. Yo creo que el ejemplo, sí, yo creo que el ejemplo más claro para mí de nuestra generación, es cuando descubrimos las hojas de cálculo. Es decir, mi generación descubrió Lotus, Symfony y luego Excel, y no era lo mismo ser un estado financiero a mano que utilizar Excel para hacerlo. No es que dejaras de pensar, tenías que saber que era un estado financiero para poder reproducir un excel, creo que es lo mismo, nos tenemos que empezar a ir. ¿Mi querida Lucina, en dónde te podemos localizar? [00:48:37] Speaker D: En melesio con s en Instagram y en todos lados, creo que es la única Lucina Melesio, también si no me encuentran me pueden googlear como Lucina Melesio y es la primera que les va [00:48:49] Speaker A: a aparecer, es la única que les va a aparecer. Muy bien Lucina, muchas gracias. ¿Mi querida Monse, dónde te podemos localizar? [00:48:57] Speaker C: En todas las redes sociales y nos vemos el lunes 330 en GIC con Armando Casiani, con Juan Guevara y a Tijuana. [00:49:02] Speaker A: Bueno, me pueden localizar en Juan Guevara TV, en todas las redes sociales y se la repito Juan Guevara tv y le agradecemos muchísimo a Lucina que haya estado con nosotros. Muchas gracias y esto fue Tecnocasters, le agradecemos su atención, que tenga usted la mejor de las noches.