Guión Vídeo 01

ENLACE VÍDEO 

Yo soy un gran escéptico de las grandes tecnológicas y sus intenciones para el mundo. Particularmente, me molesta mucho el uso que se le está dando en la sociedad a los modelos de lenguaje grandes LLMs (o Large Language Models) como ChatGPT.

Grandes compañías como OpenAI constantemente claman que sus LLMs “piensan” al nivel de un PhD. 

Si bien hay un debate abierto en ciertos círculos sobre qué es “pensar”, cualquier persona del común sabe que un chatbot al que le preguntas dos veces la misma cosa y te da dos respuestas distintas claramente no piensa.

En septiembre, Sebastien Bubeck, un investigador en OpenAI tuiteó que ChatGPT había resuelto 10 problemas de Erdos que no habían sido resueltos antes.

Esta afirmación fue rápidamente replicada por Boris Power, jefe de investigación aplicada de OpenAI Kevin Weil, vicepresidente de investigación de OpenAI.

¿Era esto por fin una prueba de que los LLM piensan y hacen descubrimientos científicos? En realidad, no, como muestra este tuit de Demis Hassabis, jefe de Inteligencia Artificial en Google y Premio Nobel de Química por el uso de Machine Learning para predicción de estructuras de proteínas.

Para los que saben inglés, se habrán percatado de que yo traduje “found solutions” como “resolver” y no “encontrar soluciones”, la traducción literal. Esto es porque en círculos científicos y académicos, el verbo “find” se utiliza para descubrimientos y soluciones, no literalmente la acción de encontrarse un billete en un pantalón viejo.

La gente de OpenAI usó el verbo de forma deliberada para ocultar la realidad: lo único que había pasado es que alguien le había preguntado miles de veces a ChatGPT y este le había entregado las referencias de papers que ya habían resuelto los problemas. El matemático reconoce que es un proyecto aficionado, no es nada “oficial”.

Rápidamente los empleados de OpenAI entraron en modo reducción de daños. Eliminaron tuits, pidieron disculpas diciendo que no habían querido engañar, que todo había sido un malentendido, etc. No solo eso, cambiaron el objetivo inicial: sí, ChatGPT no había resuelto los problemas, pero había encontrado las soluciones, y por lo tanto, empieza una nueva era de ciencia donde los LLMs van a acelerar la ciencia debido a que la búsqueda de referencias es muy difícil y consume mucho tiempo.

IMAGEN 6

Yo decidí poner a prueba esto, y sabiendo que estábamos buscando soluciones a problemas de Erdos, armé una ecuación de búsqueda sencilla en Scopus.

IMAGEN 7

Y tuve 0 unidades de sorpresa cuando comprobé que dos de los papers que mencionaban que ChatGPT había ayudado a encontrar están acá, en plena luz del día en el buscador de literatura científica más usado del mundo.

Si fueron atentos se habrán dado cuenta que nunca usé el término “inteligencia artificial” para descrbir a ChatGPT, debido a que el término se usa en marketing de una forma completamente distinta a como lo entiende el común de la gente. En matemáticas, he leído gente que clama que una regresión lineal es inteligencia artificial y claramente nadie del común cree que pasarle una línea a unos puntos sea señal de “inteligencia”.

 

De nuevo quiero recalcar que los LLMs, NO PIENSAN. Solo son máquinas probabilísticas que adivinan palabras. Son una tecnología inventada para traducción de texto y muchos investigadores no saben porqué son útiles para cosas como escribir e-mails y demás. De esto hablaremos más a profundidad en otraocasión.

La prensa masiva ha sido extremadamente servil a los intereses de estas compañías y han hecho un pésimo trabajo explicando qué hacen y cómo funcionan, peor aún, nunca han sido críticos con las aseveraciones de los directivos y empleados, constantemente asumiendo el rol de amplificadores de marketing.

Si bien revisar la literatura científica es tedioso y consume mucho tiempo, no es “difícil” en el sentido de que hay miles de herramientas que nos pueden ayudar a hacerlas de forma sistemática. Claro, si alguien se aproxima a una revisión de literatura de forma desordenada, será increíblemente difícil que se haga una buena idea del estado del área del conocimiento que quiere investigar. Esto es algo tan relevante e importante que parte de mi trabajo en el doctorado ha sido estandarizar métodos para realizar búsquedas de literatura. Acá les dejo el título de uno de mis papers, y en un próximo vídeo lo explicaré.