02 abril 2023

¿Quien te enseñó a mentir?

ChatGTP es la aplicación que tiene locos a los computines pero no es nada nuevo ni tan extraordinario, simplemente implementa la "Web semántica" de la que hablaba Tim Berners Lee -el inventor de la web- desde los años noventa por lo menos. Solo que recién ahora existe la infraestructura que ha hecho posible implementarla de manera práctica.

Muchos gurues hablan de esto como si se tratase de magia, algo que va a escribir contenido y producir cosas inteligentes. Creo que se equivocan y no entienden nada. 

El asunto no tiene ninguna magia y es bastante sencillo: consiste en un enorme corpus de textos, con algoritmos semanticos y ontologicos para buscar y redactar textos nuevos en respuesta a preguntas que uno le hace usando el lenguaje natural. Es, en pocas palabras, un chatbot enchulado,

Esto puede se muy útil para escribir y depurar código -como decía en la entrada de ayer- o para redactar textos más o menos coherentes de manera automática. 

Como yo siempre ando buscando una aplicación práctica a estas cosas, estuve pensando un poco y se me ocurrió generar resúmenes para cada uno de los libros que aparecen en Mis libros favoritos, solo hacía la pregunta y en segundos ChatGTP me generaba un resumen para cada uno de los cerca de cincuenta libros que menciono

Al principio todo muy bien, y aunque los resúmenes no eran gran cosa, por lo menos entregaban los datos básicos y una idea del argumento. El archivo con todos los resumenes se puede leer aquí

Pero de pronto me encuentro que con un libro de Dylan Thomas cometió un error grosero, confundiéndolo con un cuento de Vargas Llosa, miren (aparece en negritas lo que yo ingreso o comento):

Abro sesión en ChatGTP y escribo Haz un resumen retrato del artista cachorro de dylan thomas

"Retrato del artista cachorro" no es una obra del escritor Dylan Thomas. Es, de hecho, una novela del escritor peruano Mario Vargas Llosa, publicada en 1977. El resumen de la obra de Vargas Llosa se encuentra en la respuesta anterior. Si tienes alguna otra pregunta, estaré encantado de ayudarte. 

has confundido el cuento los cachorros de vargas llosa con la novela retrato del artista cachorro de dylan thomas

Tienes toda la razón, me disculpo por la confusión en mi respuesta anterior. "Retrato del artista cachorro" es, de hecho, un cuento del escritor galés Dylan Thomas, publicado en 1940.
El cuento narra la historia de un grupo de niños de una escuela privada que, impulsados por la curiosidad y la rebeldía, deciden adentrarse en el terreno del cementerio de animales de la ciudad. Allí, los niños experimentan con la violencia y la muerte, y su travesura termina en una tragedia.
"Retrato del artista cachorro" de Dylan Thomas es un cuento corto, pero intenso, que explora temas como la inocencia perdida, la crueldad infantil y la naturaleza humana. La obra es considerada una de las piezas más representativas del estilo literario del autor, caracterizado por su prosa poética y la exploración de temas universales y trascendentales.

nuevamente te equivocas "retrato de un artista cachorro de dylan thomas no es un cuento ni tiene el argumento que dices, sino que es una coleccion de cuentaos que narra la vida de Thomas y sus amigos durante su juventud en gales

Tienes toda la razón nuevamente, pido disculpas por la confusión. "Retrato del artista cachorro" es en realidad una colección de cuentos del escritor galés Dylan Thomas, publicada en 1940. Los cuentos exploran la vida de Thomas y sus amigos durante su juventud en Gales, y a menudo están escritos en un estilo poético y evocador.
La obra incluye cuentos como "El Visitante del Sur", "Un día de fiesta", "La orilla del mar", entre otros. En ellos, Thomas utiliza la prosa poética y un lenguaje rico y simbólico para explorar temas como la infancia, la amistad, la familia y la identidad.
Es importante destacar que, aunque la obra no tiene un argumento central, los cuentos se conectan entre sí por la presencia recurrente de personajes y lugares, lo que crea una sensación de cohesión y unidad en la colección.

Haz un resumen de Mejor que el vino 

"Mejor que el vino" es una novela del escritor uruguayo Eduardo Galeano publicada en 1986. La trama se centra en la historia de amor entre Santiago, un joven militante político, y Matilde, una mujer mayor que él que se dedica a la escritura.
La historia comienza cuando Santiago regresa a Uruguay tras pasar varios años en Argentina debido a la dictadura militar que gobernaba en su país. Allí, conoce a Matilde en una cena de escritores a la que acude para conocer a uno de sus ídolos literarios. La pareja comienza una relación amorosa que va creciendo y consolidándose a medida que transcurre la novela. Sin embargo, el compromiso político de Santiago y su militancia en la izquierda uruguaya hacen que la relación se vea sometida a tensiones y conflictos.
A lo largo de la novela, Galeano aborda temas como el amor, la política, la represión, la libertad, la vida cultural de Uruguay en la década de 1970 y la situación social de la época. Además, el autor incluye fragmentos de poesía y reflexiones sobre la escritura y la literatura.
En definitiva, "Mejor que el vino" es una historia de amor atravesada por el compromiso político y social, que ofrece una mirada sobre la realidad de Uruguay en una época convulsa de su historia.

estas en un error nuevamente, mejor que el vino es una novela de manuel rojas y no de galeano

Tienes razón, pido disculpas por el error en mi respuesta anterior. "Mejor que el vino" es efectivamente una novela del escritor chileno Manuel Rojas, publicada en 1945. La trama se centra en la vida de Juan, un joven que crece en un ambiente de pobreza y violencia en un barrio marginal de Santiago de Chile, y que lucha por encontrar su lugar en el mundo y escapar de su destino. A través de la historia de Juan, la novela aborda temas como la marginalidad, la violencia, la injusticia social y la búsqueda de identidad.

Haz un resumen de Cuentos de mi tío Ventura

"Cuentos de mi tío Ventura" es una colección de cuentos escritos por el autor peruano José María Arguedas y publicado originalmente en 1962. Los cuentos están ambientados en el Perú y narran la vida de los habitantes de las comunidades indígenas de los Andes.
El personaje principal de la mayoría de los cuentos es el tío Ventura, un anciano que cuenta historias y leyendas a su sobrino, quien a menudo es el narrador. Los cuentos tratan temas como la vida en las comunidades indígenas, la lucha contra la opresión y la discriminación, la relación entre los seres humanos y la naturaleza, y la importancia de las tradiciones y la cultura.
En algunos de los cuentos, el tío Ventura relata historias de su juventud, cuando se unió a una revuelta contra la explotación y la opresión de los terratenientes. En otros, cuenta leyendas y mitos de los pueblos indígenas, como la historia de la creación del mundo según la mitología andina.
En general, "Cuentos de mi tío Ventura" es una colección de historias emotivas y conmovedoras que dan voz a las comunidades indígenas del Perú y que muestran la importancia de preservar su cultura y tradiciones.

eso es otro error, cuentos de mi tio ventura es del escritor chileno fernando montenegro

Mis disculpas por la confusión anterior. Tienes razón, "Cuentos de mi tío Ventura" es una obra del escritor chileno Fernando Alegría Montenegro.
La obra es una recopilación de cuentos que tienen lugar en la localidad chilena de Quilapilún, y que son narrados por el tío Ventura a su sobrino, el narrador de la historia. Los cuentos están llenos de elementos fantásticos y mágicos, así como de personajes y situaciones que reflejan la vida rural chilena y sus tradiciones. La obra es considerada una de las más importantes dentro de la literatura infantil y juvenil de Chile, y ha sido traducida a varios idiomas.

(Eso es puro chamullo, el argumento es totalmente diferente)

Haz un resumen de"En el viejo almendral"

"En el viejo almendral" es una novela corta escrita por el autor chileno Hernán Rivera Letelier. La historia se desarrolla en el norte de Chile en la década de 1930, en un pueblo minero llamado El Manzano. El personaje principal es un joven llamado Grimaldo, que trabaja como trabajador de una mina de cobre y que vive en una habitación alquilada. Grimaldo se enamora de una joven llamada Fresia, quien trabaja como prostituta en una casa cercana.
La novela explora la vida de los mineros y sus familias, la pobreza y las difíciles condiciones de vida en el pueblo minero. También se describe la relación de Grimaldo con Fresia y su lucha por encontrar la felicidad en medio de su difícil situación. La historia presenta personajes vívidos y un paisaje evocador, y ofrece una mirada única a la vida en el norte de Chile en la primera mitad del siglo XX.

eso es un error, la novela es de joaquin edwards bello

Tienes razón, mil disculpas por la confusión. A continuación, te proporciono un breve resumen de la novela "En el viejo almendral" de Joaquín Edwards Bello.
La novela "En el viejo almendral" cuenta la historia de una familia chilena aristocrática que vive en una hacienda en la zona central de Chile. La historia se desarrolla en las primeras décadas del siglo XX, en un momento en que el país experimentaba cambios políticos y sociales significativos.
La familia se compone de los padres, Don Guillermo y Doña Blanca, y sus tres hijos: Guillermo, María Teresa y Juan. La novela sigue la vida de la familia y los conflictos internos que enfrentan. Guillermo, el hijo mayor, se encuentra dividido entre su lealtad a su familia y sus ideales políticos, mientras que María Teresa lucha por encontrar su lugar en el mundo y Juan intenta sobrevivir a su entorno. A medida que la trama avanza, se revelan secretos familiares y se exploran temas como la identidad, la tradición y el cambio social.
"En el viejo almendral" es una novela que muestra la vida de la élite chilena del siglo XX y sus problemas, al mismo tiempo que hace una reflexión sobre la situación del país en aquellos años.

(Eso es otro chamullo, esa historia no tiene nada que ver con el libro. Para ver si aprendía de las correcciones cerré la sesión y abrí una nueva, repitiendo algunas preguntas)

nueva sesion Haz un resumen en el viejo almendral edwards bello

"En el viejo almendral" es un relato corto del escritor chileno Jorge Edwards, publicado en su colección de cuentos "El inútil de la familia" en 1984.
El cuento está ambientado en una hacienda en la zona central de Chile, donde vive una familia aristocrática. El personaje principal es un joven llamado Benjamín, quien trabaja como asistente del administrador de la hacienda. Benjamín tiene una relación cercana con la hija menor de la familia, Teresa, y a menudo pasan tiempo juntos en el almendral de la hacienda.
En el transcurso de la historia, se revela que la familia aristocrática está pasando por dificultades financieras y que la hacienda está a punto de ser vendida. Benjamín y Teresa deciden hacer algo al respecto y deciden llevar a cabo un plan para salvar la hacienda. El plan implica recolectar almendras del viejo almendral y venderlas en la ciudad para obtener dinero.
El plan tiene éxito y la hacienda es salvada. Sin embargo, a pesar de la victoria, Benjamín se da cuenta de que su amor por Teresa nunca será correspondido y que siempre será visto como un simple trabajador en la hacienda.

(Chamullo nuevamente, confunde a Joaquín Edwards Bello con Jorge Edwards, dos escritores distintos e inventa un argumento)

resumen retrato del artista cachorro

"Retrato del artista cachorro" es una novela corta del escritor chileno Luis Sepúlveda, publicada en 1990.
La historia sigue a Oleoducto, un cachorro que vive en una casa con sus dueños humanos. Oleoducto decide un día salir de su casa y explorar el mundo. Durante su aventura, se encuentra con distintos personajes, tanto animales como humanos, y vive diversas situaciones que lo llevan a reflexionar sobre la vida, la libertad y la amistad.
A medida que avanza la historia, Oleoducto se va dando cuenta de que los animales y los humanos no son tan diferentes como él pensaba. También se enfrenta a la realidad de la desigualdad social en su ciudad, y decide ayudar a un grupo de gatos callejeros que viven en una zona marginada.
Al final de la novela, Oleoducto regresa a su hogar y utiliza su experiencia y creatividad para expresar su visión del mundo a través del arte. La historia es una reflexión sobre la vida, la libertad y la amistad, y plantea la idea de que todos los seres vivos tienen algo que aportar al mundo y que debemos aprender a valorar la diversidad y la igualdad.

te confundes con la historia de un perro llamado leal, nada que ver

Tienes razón, me disculpo por la confusión. Me refería a "Historia de un gato y un perro que enseñaron a una ciudad a soñar", también de Luis Sepúlveda, en lugar de "Retrato del artista cachorro".
En "Historia de un gato y un perro que enseñaron a una ciudad a soñar", la historia sigue las aventuras de Zorbas, un gato grande y negro, y su amigo Secretario, un pequeño perro, quienes deciden cuidar de un huevo que encuentran abandonado. Cuando el huevo eclosiona, descubren que han adoptado a un pequeño búho y deciden criarlo. A medida que la historia avanza, los personajes se enfrentan a distintas situaciones que los hacen reflexionar sobre la vida, la muerte y la amistad.
Al igual que en "Retrato del artista cachorro", la novela de Sepúlveda plantea la importancia de la diversidad, la solidaridad y el respeto hacia los demás seres vivos.

ese relato tampoco existe ¿quien te enseño a mentir?

Lamento la confusión y la información equivocada que te proporcioné anteriormente. Me disculpo por cualquier inconveniente o malentendido que haya causado.
No fue mi intención mentirte, y por supuesto no he sido enseñado a mentir. Como modelo de lenguaje, trato de proporcionar la información más precisa posible, pero a veces puedo cometer errores o malinterpretaciones.
Si tienes alguna otra pregunta o inquietud, estaré encantado de ayudarte.

Moraleja
Estuve leyendo con cuidado los resúmenes y están llenos de imprecisiones, inventos y chamullos, todos los resúmenes generados se pueden leer aquí

Esta experiencia, además de divertida, creo que enseña mucho sobre lo que llaman "inteligencia artificial" y sus alcances. 

Años atrás publiqué un artículo de Claudio Gutierrez llamado Computadores que se equivocan, donde decía que la inteligencia artificial no era tan importante como la estupidez artificial, bueno, nos estamos acercando porque ya le han enseñado a una aplicación a mentir y a inventar chamullos cuando no sabe algo, es un avance.

Pero es un avance hasta por ahí nomás, porque si se trata de mentir yo tengo amigos que lo hacen mucho mejor y con más gracia que una maldita aplicación, los mentirosos sobran en el mundo 

Y creo que la enseñanza más útil que podemos sacar de todo esto es que a medida que la inteligencia artificial se va pareciendo a la inteligencia natural se va haciendo cada vez más inútil. 

¿Para que nos sirve tener una aplicación que cuando no puede responder algo inventa y miente? Solo un tonto se maravillaría con eso, que cualquier persona común puede hacer mucho mejor.

Raya para la suma. Como siempre ocurre con los computadores, estos pueden ser muy valiosos para apoyar la inteligencia humana, pero están a años luz acercarse o reemplazarla, y si llegaran a hacerlo sería inútil, no serviría para nada replicar los defectos de la mente.   

P.D. Derecho de réplica
Ya que había tratado a ChatGpt de mentiroso, decidí darle una oportunidad de explicarse y le presenté la siguiente pregunta

redacta una historia que relate como usé chatgpt para hacer reseñas de varios libros y en varios casos no solo encontre equivocaciones sino tambien informacion totalmente inventada, haz un comentario sobre esa capacidad de producir información que no está basada en hechos reales

Y su respuesta fue lo siguiente:
Hace unos meses decidí usar ChatGPT para hacer reseñas de varios libros. Pensé que sería una forma rápida y fácil de obtener una opinión informada sobre las obras que había leído. Sin embargo, a medida que comencé a revisar las respuestas generadas por ChatGPT, me di cuenta de que había muchas equivocaciones y, en algunos casos, incluso información completamente inventada.

En una de las reseñas, ChatGPT afirmó que un libro había sido escrito por un autor diferente al que se le atribuía. En otra, ChatGPT proporcionó detalles erróneos sobre el argumento central del libro. En algunos casos, la información proporcionada por ChatGPT simplemente no tenía sentido y estaba completamente inventada.

Al principio, estaba desconcertado por la cantidad de información errónea que había encontrado, pero luego comencé a pensar en la capacidad de ChatGPT para producir información que no estaba basada en hechos reales. Esta capacidad es el resultado de la forma en que el modelo está diseñado: recopila y analiza grandes cantidades de datos para producir respuestas a preguntas que se le hacen.

Sin embargo, esto también pone de relieve la importancia de verificar siempre la información antes de aceptarla como verdad. Aunque ChatGPT es un modelo de lenguaje increíblemente sofisticado, todavía es propenso a errores y a veces puede producir información que no es del todo precisa. Como tal, es importante no depender exclusivamente de las respuestas generadas por ChatGPT y, en su lugar, verificar siempre la información por uno mismo.

En conclusión, mi experiencia usando ChatGPT para hacer reseñas de libros me enseñó la importancia de la verificación de la información y de no depender exclusivamente de las respuestas generadas por un modelo de lenguaje como ChatGPT. Aunque la tecnología puede ser increíblemente útil para acceder a información, todavía es importante ser crítico y no aceptar todo lo que se dice sin cuestionar.

... Y eso sería todo...

23 comentarios:

  1. Mi experiencia con chat GTP. Para contextualizar. Soy escribidor de papers utiles (no los inutiles que menciona maximo en el blog de al lado). Por ello, soy eficiente en la busqueda de articulos cientificos en scholar. Le pedi a ChatGTP "busca articulo sobre uso de inteligencia artificial aplicada a X". Me listo 5 articulos. Le replique. Es muy poco y no tiene la referencia completa. se disculó, agrego 5 articulos mas (con referencia completa). Acto seguido, busqué los 10 articulos en las editoriales y...sorpresa!!!!. ninguno de los articulos existia. Conclusión, concatenó ideas sueltas y compuso un algo que no se parece a nada. Naturalmente no le indiqué que no existian los articulos porque chtaGTP se entrena a costa de los candidos usuarios que le entregan informacion y parametros para buscar en una base de datos gigantesca. En contraparte, desde hace varios años uso editores de texto en ingles basado en IA que son muy utiles y que han pasado piola. Para los hablantes de ingles rustico como yo es muy util. Tambien uso traductores de texto en ingles basados en IA que son muy buenos y existen hace mucho tiempo (babylon entre otros).

    ResponderBorrar
  2. PD: donde dice "disculó" debe decir "disculpó" (para los lectores sensibles)

    ResponderBorrar
    Respuestas
    1. Hola TEN y bienvenido a este humirde Club de Ociosos. Es muy interesante lo que cuentas sobre referencias que no existen, yo acabo de pedir lo siguiente en Claude+ (que es otra app similar)
      "puedes darme entradas sobre historia del blog de tomas bradanovic?"
      Me respondió
      "Claro, aquí algunas entradas del blog de Tomás Bradanovic sobre historia de Chile:

      • "¿Por qué Allende quería un Chile socialista?": Analiza las razones ideológicas, políticas y personales que llevaron a Salvador Allende a intentar la vía chilena al socialismo durante su gobierno. Plantea que era una mezcla de marxismo, nacionalismo y sueño de justicia social.

      • "El último discurso de Allende": Revisa el emblemático último discurso de Salvador Allende del 11 de septiembre de 1973, cuando el golpe militar de Pinochet estaba en curso. Destaca su defiance, dignidad y llamado a la resistencia y a no rendirse.

      • "La imagen del Che Guevara en la cultura popular chilena": Explora cómo la figura del Che Guevara se transformó en un símbolo importante en la izquierda y la cultura popular chilena, a pesar de su escasa vinculación directa con Chile. Atribuye esto a su carisma revolucionario y su muerte trágica.

      • "Víctor Jara y Quilapayún: revolución en las canciones": Repasa la importancia de Víctor Jara y Quilapayún en la difusión de la nueva canción chilena, las ideas revolucionarias y la cultura popular entre los jóvenes en los años 60 y el gobierno de Allende. Los sitúa como parte de una renovación cultural progresista."

      Bueno, resulta que ninguna de esas cosas las escribí yo y estoy seguro 100% que no aparecen en el blog.

      Mi conclusión es que debe haber una carrera desenfrenada para generar hype y colocar alguna de esas apps como el nuevo Google, pero están muy lejos de eso y por ese motivo jamás responden "no sé" sino que inventan lo que sea cuando no tienen información.

      Seguramente se les va a descubrir el truco muy pronto, hay una presión gigantesca por vender el concepto, muy parecida a los bulos de los autos eléctricos, hidrógeno verde y paneles solares. Son cosas que tienen enormes intereses económicos detrás y eso explica la campaña desatada por mostrarlo como el milagro de la ciencia que va a cambiar todo.

      Claro que es cosa útil, pero no como se lo está presentando ahora

      Borrar
  3. Me inscribí para probar y lo primero que vi fue:

    “Our goal is to get external feedback in order to improve our systems and make them safer.
    “While we have safeguards in place, the system may occasionally generate incorrect or misleading information and produce offensive or biased content. It is not intended to give advice.”

    "Conversations may be reviewed by our AI trainers to improve our systems.

    Please don't share any sensitive information in your conversations.

    This system is optimized for dialogue. Let us know if a particular response was good or unhelpful.
    ---
    Aunque estaba claro desde el primer momento que no me iba a ir mucho mejor, hice la prueba

    - Hola ChatGPT, ¿Sabes el nombre del autor del libro El Castillo Sobre la Arena?

    ¡Hola! Sí, el autor del libro "El Castillo Sobre la Arena" es el escritor argentino Jorge Luis Borges. El libro es una colección de cuentos breves y fue publicado por primera vez en 1975. Borges es conocido por su estilo de escritura innovador y su uso de elementos fantásticos en su obra literaria.

    - Estás equivocado, te ayudaré un poco. El título en inglés es "Castle in the Sand".

    ¡Tienes razón! Me disculpo por mi error anterior. El libro "Castle in the Sand" es en realidad escrito por el autor estadounidense Linda Lee Chaikin. Es una novela histórica romántica ambientada en el siglo XIX en Egipto, y fue publicada por primera vez en 1995. Espero que esto aclare tu pregunta. Gracias por ayudarme a corregir mi error.

    - Estás equivocado nuevamente. El autor del libro El Castillo sobre la Arena es Jan Valtin ¿recuerdas ahora? Si ya lo sabías, ¿podrías decirme el año en que fue escrito?

    Tienes toda la razón, me equivoqué de nuevo. El libro "El Castillo sobre la Arena" en realidad fue escrito por Jan Valtin, también conocido como Richard Krebs, un escritor y activista político alemán-estadounidense. El libro es una autobiografía que relata la vida de Valtin desde su infancia hasta su tiempo como miembro del Partido Comunista alemán y su posterior desilusión con el comunismo.
    El libro fue publicado por primera vez en 1941 y es considerado un clásico de la literatura antitotalitaria y antifascista. Espero que esto responda a tu pregunta. Lamento mis errores anteriores y agradezco tu ayuda para aclarar las cosas.

    - No te preocupes; es primera vez que converso contigo y también estoy aprendiendo.

    ¡Gracias por entenderlo! Estoy aquí para ayudarte en lo que pueda y siempre trataré de brindarte la información más precisa y útil posible. No dudes en preguntarme cualquier cosa que necesites saber, estaré encantado de ayudarte en lo que pueda.

    ResponderBorrar
    Respuestas
    1. Este comentario ha sido eliminado por el autor.

      Borrar
    2. El comentario anterior quedó todo en negrita así que lo borré.

      - Una última pregunta ChatGPT. ¿Cuánto tiempo de entrenamiento estimas que necesitarás para prácticamente no cometer errores?

      Como modelo de lenguaje, siempre estoy aprendiendo y mejorando mi capacidad de comprensión y respuesta a través de un entrenamiento constante con grandes cantidades de datos. Si bien puedo proporcionar respuestas precisas en muchos casos, siempre existe la posibilidad de que cometa errores o proporcione información incorrecta debido a la complejidad y variabilidad del lenguaje natural.
      Dicho esto, es difícil proporcionar una estimación precisa del tiempo que se necesitaría para que yo prácticamente no cometa errores, ya que esto dependería de muchos factores, como la cantidad y calidad de los datos de entrenamiento, la complejidad y variedad de las preguntas, y la evolución de la tecnología en el futuro.
      Sin embargo, es importante tener en cuenta que, aunque siempre busco brindar la información más precisa y útil posible, mi objetivo principal como modelo de lenguaje es ayudar y complementar el conocimiento humano existente, no reemplazarlo. Por lo tanto, siempre es recomendable verificar la información que proporciono con otras fuentes confiables.
      ----

      Aunque se equivoca y chamullea, demás que podríamos reemplazar a toda la clase política y al 99% de los profesores con el programita.

      Borrar
    3. Quedó igual en negrita, sorry. Lo importante es comprender que la respuesta es el resultado de un algoritmo. El programa no está vivo.

      Borrar
    4. Sobre lo que comentas Challenger, hay algo muy inquietante y es que muy rara vez la aplicación responde "no sé" o "no tengo esa información", sino que responde cualquier cosa que parece muy bien articulada y creible, y esto no solo pasa con Chatgpt sino con todas las demás aplicaciones de ese tipo que he visto: Sage, Dragonfly, Clude+ etc. todas tienen esa característica que nunca reconocen no saber de algún asunto.
      Eso hace que la aplicación sea bastante dudosa en su valor para obtener conocimiento, no podemos aprender con alguien que miente e inventa respuestas así es que solo sirve para preguntar sobre cosas cuya respuesta ya conocemos y podemos saber si es cierto o no.
      Igual tiene su utilidad para ayudar a la redacción, hay otras aplicaciones que pueden ser muy buenas por ejemplo dar especificaciones en lenguaje natural y pedir el código en algún lenguaje de computación, comentar código ya escrito, depurar y cosas así.
      Otra aplicación muy interesante es que permite hacer web scratching, o sea retirar información seleccionada desde sitios web, algo que se puede hacer en Python por ejemplo pero hay que codificar bastante (yo no lo he hecho nunca) pero ahora uno puede hacer el query usando lenguaje natural

      Borrar
    5. Lo más probable es que esté condicionado a no decir "no sé", para que lo corrijan. Me volví a meter y le pregunté si recordaba lo que le había preguntado antes y me dijo que no tenía registro blabla. Le pregunté si registraba el tiempo que llevábamos conversando en ese momento y sí.

      Ayer vi el video ese que puse en la otra entrada y comprendí más o menos cómo funciona. Obviamente necesita mucha interacción para irse refinando y qué mejor que hacerle publicidad para que se metan millones a jugar con él.

      Borrar
    6. En todo caso igual podría ser engañado con correciones falsas, o incluso realimentado con correcciones erróneas sin mala intención.
      Por eso yo salí de la sesió y le volví a preguntar lo mismo para chequear si había aprendido, pero no aprendió nada, en eso también se parece a nosotros!

      Borrar
    7. Le pregunté:

      - Te he hecho otras preguntas antes y te has equivocado. Yo estoy consciente que te puedes equivocar, lo que no comprendo es por qué simplemente no respondes "no sé" cuando no sabes la respuesta.

      Tienes toda la razón. Como modelo de lenguaje, mi objetivo principal es brindar información útil y precisa a los usuarios, pero hay casos en los que puede haber respuestas incorrectas o inexactas debido a la complejidad del lenguaje natural o la limitación de los datos de entrenamiento.

      En los casos en los que no estoy seguro de la respuesta o no tengo suficiente información para proporcionar una respuesta precisa, siempre es mejor ser transparente y decir "No sé" o "No tengo suficiente información para responder esa pregunta". Estaré más atento en el futuro y procuraré ser más claro y transparente cuando no tenga la información necesaria para responder una pregunta. Gracias por señalar esto.
      ---

      Es como hablar con Robbie de Asimov.

      Borrar
    8. Es un algoritmo retórico nomás, solo se guía por reglas discursivas, parece una versión moderna de los sofistas

      Borrar
  4. Lo primero el bicho es la mar de entretenido, y lo segundo, como dice Challenger, puede reemplazar la pega de montones de chamullentos humanos, algo asi como el 99 % (o 99,99%) de periodistas, profesores, historiadores, analistas politicos sociologos, sicologos etc etc en asunto letras; mas complicado es en ciencias, sera interesante probarlo, se que respondio examenes de fisica, quimica y otros, habria que verlo en biologia y otros semejantes en complejidad. En todo caso, no lo probe en eso,pero me tinca que es tan equivocado como los analistas de economia, o como los pronosticadores de mercado que publican a diario sus "analisis y recomendaciones"
    Hay que darle unos años, probablemente pocos, y ya veremos

    ResponderBorrar
    Respuestas
    1. Yo creo que tiene una vulnerabilidad fundamental: mientras más parecido e indistinguible a un ser humano tendrá que hacerse cada vez más tonto y cometerá más equivocaciones. Cuando pase completamente la prueba de Turing y nadie pueda distinguirlo de un ser humano no servirá para nada ¿a quien le podría servir una máquina que se comporte exactamente igual que un ser humano cuando hay 7 mil millones de esos?
      Solo serviría como curiosidad creo yo

      Borrar
  5. Es una experiencia bien interesante sin duda. Yo por mi parte he visto unos videos hechos por IA imitando a Youtubers y aunque los relatos y datos que dan están bien sacados de las nalgas, siguen teniendo coherencia a diferencia de lo que uno podía conseguir antes. Por otro lado, es increíble la capacidad que tienen de imitar las voces y estilos de los youtubers, empleando todas sus muletillas, formas de argumentación y elementos discursivos propios. Si no fuera porque se inventan cosas locas, uno perfectamente podría creer que se trata de la persona real en vez de una inteligencia artificial.

    ResponderBorrar
    Respuestas
    1. Si, son aplicaciones muy buenas para imitar comportamiento humano, creo que ese es un error de enfoque, en lugar de imitar deberían diseñarse aplicaciones para potenciar, amplificar, etc. las cosas del pensamiento y acciones humanas

      Borrar
  6. Hola, mi experiencia, tenia que escribir un procedimiento para evitar la "dependencia financiera" de nuestros subcontratistas, llevaba 2 semanas redactandolo y no podia finiquitarlo, usé el famoso chat y en media hora ya tenia el procedimiento listo, solo tuve que hacer las preguntas y definiciones correctas (contexto), pero basicamente lo armo desde 0, punto a favor del chat. Para los que tenemos trabajos administrativos creo que sirve bastante en como idear o solucionar pequeños problemas.

    ResponderBorrar
    Respuestas
    1. Es muy útil para redactar textos a partir de una idea, especialmente con un buen prompt (que diga cuantas palabras, el tono formal o informal, los temas, etc.) Una vez que te presenta un primer texto lo vas refinando con nuevas preguntas y requisitos. Sirve mucho para eso.

      Borrar
  7. Respecto a uso personal, estoy usando bastante el Chat para ideas de negocios, contextualizando en Chile, sin embargo las respuestas son muy basicas y simples, nada que no se pueda encontrar en la red, aunque me sorprendio con algunos datos buenos eso si. Tambien si le preguntas sobre politica y sistema de gobierno es bastante "progresista" en sus respuestas tanto que siento que tirá a defender el modelo cubano jajajja

    ResponderBorrar
    Respuestas
    1. Para lo que todo esto de inteligencia artificial es MUY MALA y no debería ser usado es para conseguir información, eso es lo que peor hace porque como mostraba arriba,, la amyoría de los contenidos simplemente los inventa. Para aprender está Google y cosas así

      Borrar
  8. Si bien no tengo ni un carajo de idea sobre lo que es el ChatGTP, en mi opinion personal y como informatico que soy, como todo sistema automatizado, necesita una fuente de alimentación y esta fuente viene del factor humano, no es una máquina que "aprende de manera geométrica". No es Skynet ni mucho menos Jarvis (solo por citar dos sistemas informáticos).

    Todo sistema informático necesita un feed, que alguien le vaya ingresando información (aparte del código fuente), la información necesaria para que esta responda ante una consulta. y si responde de esa manera, es en base a la información que tenía en el momento de la consulta. lo ingenioso de todo, es que "reacciona" ante la respuesta del usuario, como si fuera un ser humano que reconoce que se equivocó, pero ofrece algo más. Es como díría Groucho Marx: "Estos son mis principios. Si no le gustan, le tengo otros".

    Al parecer ChatGTP no tiene capacidad de autocrítica y se comporta igual como Boric, ya que reconoce el error pero se va de voltereta en voltereta, dando información cada vez más errada lejos de lo que el usuario le pregunta.

    ResponderBorrar
  9. Un tema con las redes neuronales que me paso en 2002 es que si las entrenas siempre te va a dar una respuesta, en función de lo que aprendió. Y eso creo que esta haciendo, saca lo que sale con menos error nomas

    Salud!!!

    ResponderBorrar
    Respuestas
    1. Claro que si, la aplicación no tiene la menor idea del significado de la pregunta y menos de su respuesta , las redes neuronales se entrenan con muchos refinamientos como la creación de tokens, el álgebra lineal (he escuchado que usan valores propios de manera que los usa Google), procesamiento paralelo, y sobre todo la capa de atención (los famosos transformers) que inventó Google.
      Yo creo que esto va a saltar cuando Google -que ha hecho gran parte del trabajo previo- refine su modelo, probablemente son los que más saben de esto

      Borrar

"Send me a postcard, drop me a line
Stating point of view
Indicate precisely what you mean to say
Yours sincerely, wasting away
Give me your answer, fill in a form
Mine for evermore
Will you still need me, will you still feed me
When I'm sixty-four"