Talkie-1930: La IA que solo conoce el mundo hasta 1930 y su utilidad en la investigación de la IA

Investigadores han creado Talkie-1930, una inteligencia artificial (IA) cuyo conocimiento se limita a la información disponible hasta el año 1930. Este modelo de lenguaje, entrenado exclusivamente con textos anteriores a esa fecha, tiene como objetivo principal servir como herramienta para la investigación en el campo de la IA, permitiendo explorar la capacidad de predicción de estos sistemas y evitar la contaminación de datos.

¿Cómo funciona Talkie-1930?

Talkie-1930 es un modelo de lenguaje con 13.000 millones de parámetros que ha sido entrenado utilizando libros, periódicos y otros textos anteriores a 1930. A diferencia de otros modelos de lenguaje que tienen acceso a información moderna y pueden consultar internet, Talkie-1930 opera únicamente con datos históricos.

Para evaluar el modelo, los investigadores lo pusieron a conversar con otra IA, Claude, y analizaron sus respuestas. Talkie-1930 demostró un amplio conocimiento del mundo anterior a 1930, con detalles históricos precisos y la capacidad de imitar el estilo de autores victorianos como Charles Dickens.

Utilidades de Talkie-1930

Más allá de la curiosidad de interactuar con una IA que "vive" en el pasado, Talkie-1930 ofrece varias utilidades prácticas para la investigación en el campo de la inteligencia artificial:

• Estudio de la mentalidad y cultura del pasado: Permite explorar cómo se describían la sociedad, la política y la vida cotidiana en el pasado, ofreciendo una ventana a la mentalidad y cultura de épocas anteriores.
• Sujeto de control para la investigación de la IA: Sirve como punto de referencia para estudiar el funcionamiento de la IA y lograr avances importantes en este campo.
• Medición de la capacidad predictiva: Al estar "congelado" en 1930, Talkie-1930 permite medir hasta dónde puede un modelo extrapolar y predecir el futuro basándose únicamente en patrones históricos, sin utilizar datos posteriores.
• Evitar la contaminación de datos: Los modelos de lenguaje actuales a menudo se entrenan con grandes cantidades de datos, lo que puede llevar a la inclusión de datos de evaluación en el conjunto de entrenamiento, sobreestimando sus capacidades. Talkie-1930, al no tener acceso a datos posteriores a 1930, evita este problema de contaminación de datos.
• Exploración de la invención: Permite observar la capacidad de la IA para generar nuevas ideas y descubrir conceptos sin conocimiento previo.

Prediciendo el futuro desde 1930

Para evaluar la capacidad de Talkie-1930 para predecir el futuro, los investigadores le mostraron 5.000 descripciones de eventos históricos posteriores a 1930, tomadas de la sección "On this day" del New York Times, y midieron el grado de sorpresa del modelo.

Los resultados mostraron que Talkie-1930 se sorprendió más con los eventos ocurridos en las décadas posteriores a 1930, especialmente en los años 50 y 60. Sin embargo, su grado de sorpresa se estabilizó con el tiempo, lo que sugiere que su rendimiento predictivo mejora a medida que el horizonte temporal se alarga. Los investigadores señalan que será necesario entrenar modelos aún más antiguos para confirmar esta hipótesis.

La pregunta de Demis Hassabis

Demis Hassabis, CEO de Google DeepMind, planteó una pregunta interesante: ¿Podría una IA con un límite de conocimiento hasta 1911 llegar a la teoría de la relatividad que Einstein descubrió en 1915? Modelos como Talkie-1930 son herramientas valiosas para explorar esta cuestión y observar la capacidad de la IA para generar nuevas ideas que puedan conducir a descubrimientos.

Código abierto y disponible en Github

Talkie-1930 es de código abierto y está disponible en Github, lo que permite a otros investigadores y desarrolladores explorar y utilizar este modelo para sus propios proyectos.

Datos clave

Implicaciones para Venezuela

Aunque Talkie-1930 es un proyecto de investigación, sus implicaciones podrían extenderse al ámbito venezolano. La capacidad de predecir tendencias y comportamientos a partir de datos históricos podría ser útil para analizar la evolución de la economía, la sociedad y la política en Venezuela. Además, la capacidad de evitar la contaminación de datos podría ser relevante para el desarrollo de modelos de lenguaje en español que no estén sesgados por información reciente o propaganda.

El desarrollo de esta IA es relevante para Venezuela porque:

• Análisis histórico: Permite analizar la evolución de la sociedad venezolana antes de 1930, comprendiendo mejor las raíces de los problemas actuales.
• Predicción económica: Podría ayudar a predecir tendencias económicas basadas en patrones históricos, aunque con las limitaciones de no considerar eventos posteriores a 1930.
• Desarrollo de IA local: Sirve como ejemplo para el desarrollo de modelos de lenguaje en Venezuela, evitando la contaminación de datos y sesgos.

El futuro de la IA con conocimiento limitado

Talkie-1930 representa un paso interesante en la investigación de la inteligencia artificial. Al limitar el conocimiento de la IA a un período histórico específico, los investigadores pueden explorar nuevas formas de comprender cómo funciona la IA y cómo puede utilizarse para resolver problemas importantes. Este tipo de modelos "vintage" abren un abanico de posibilidades para la experimentación y el avance en el campo de la IA, permitiendo un análisis más profundo de sus capacidades y limitaciones.

Fuente: Xataka [https://www.xataka.com/robotica-e-ia/alguien-ha-creado-ia-que-no-sabe-nada-que-paso-despues-1930-tiene-utilidad-que-parece](https://www.xataka.com/robotica-e-ia/alguien-ha-creado-ia-que-no-sabe-nada-que-paso-despues-1930-tiene-utilidad-que-parece)