- En OpenAI, la compañía que lo desarrolló, ya se está discutiendo que ChatGPT podría ser un potencial asesino de google
ChatGPT es el chatbot con inteligencia artificial más reciente e impresionante hasta el momento. Fue lanzado a mediados de noviembre pasado y en solo cinco días llegó a un millón de usuarios. Se está utilizando tanto que sus servidores han alcanzado su capacidad varias veces.
En OpenAI, la compañía que lo desarrolló, ya se está discutiendo que ChatGPT podría ser un potencial asesino de Google. ¿Por qué buscar algo en un motor de búsqueda cuando ChatGPT puede escribir un párrafo completo explicando la respuesta? (Incluso hay una extensión de Chrome que te permite hacer ambas cosas, una al lado de la otra).
Pero, ¿qué sucede si nunca conocemos el ingrediente secreto detrás de las capacidades de ChatGPT?
El chatbot aprovecha una serie de avances técnicos publicados en la literatura científica abierta en las últimas dos décadas. Pero cualquier innovación única es secreta. OpenAI bien podría estar tratando de construir un foso técnico y comercial para mantener a otros fuera.
LO QUE PUEDE (Y NO PUEDE HACER)
ChatGPT es muy capaz. ¿Quieres un haiku sobre chatbots? Por supuesto.
Chatbots, oh tan sabios
procesamiento interminable
Respuestas desde el vacío.
¿Qué tal una broma sobre los chatbots? No hay problema.
¿Por qué el chatbot cruzó la calle?
Para llegar al otro lado, ¡de tu pantalla!
ChatGPT puede hacer muchos otros trucos. Puede escribir código de computadora según las especificaciones del usuario, redactar cartas comerciales o contratos de alquiler, redactar ensayos de tarea e incluso aprobar exámenes universitarios.
Igual de importante es lo que ChatGPT no puede hacer. Por ejemplo, se esfuerza por distinguir entre la verdad y la falsedad. También suele ser un mentiroso persuasivo.
¿Cuál es el mamífero marino más rápido?
El mamífero marino más rápido es el pez vela.
El pez vela no es un mamífero.
Tienes razón, el pez vela no es un mamífero. Pido disculpas por el error. El mamífero marino más rápido es el halcón peregrino.
ChatGPT es un poco como autocompletar en su teléfono. Su teléfono está entrenado en un diccionario de palabras para que complete las palabras. ChatGPT está entrenado en casi toda la web y, por lo tanto, puede completar oraciones completas, o incluso párrafos completos.
Sin embargo, no entiende lo que está diciendo, solo qué palabras es más probable que vengan a continuación.
ABIERTO SOLO POR NOMBRE
En el pasado, los avances en IA han ido acompañados de literatura revisada por pares.
En 2018, por ejemplo, cuando el equipo de Google Brain desarrolló la red neuronal BERT en la que ahora se basan la mayoría de los sistemas de procesamiento de lenguaje natural (y sospechamos que ChatGPT también), los métodos se publicaron en artículos científicos revisados por pares y el código estaba abierto.
Y en 2021, AlphaFold 2 de DeepMind, un software de plegamiento de proteínas, fue el avance científico del año. El software y sus resultados eran de código abierto para que los científicos de todo el mundo pudieran usarlos para hacer avanzar la biología y la medicina.
Tras el lanzamiento de ChatGPT, solo tenemos una breve publicación de blog que describe cómo funciona. No ha habido indicios de una publicación científica que lo acompañe, o de que el código será de código abierto.
Para comprender por qué ChatGPT podría mantenerse en secreto, se debe comprender un poco sobre la empresa que lo respalda.
OpenAI es quizás una de las empresas más extrañas que surgieron de Silicon Valley. Se estableció como una organización sin fines de lucro en 2015 para promover y desarrollar una IA “amigable” de una manera que “beneficie a la humanidad en su conjunto”. Elon Musk, Peter Thiel y otras figuras tecnológicas destacadas prometieron mil millones de dólares para sus objetivos.
Su pensamiento era que no podíamos confiar en las empresas con fines de lucro para desarrollar una IA cada vez más capaz que se alineara con la prosperidad de la humanidad. Por lo tanto, la IA debía ser desarrollada por una organización sin fines de lucro y, como su nombre indica, de manera abierta.
En 2019, OpenAI hizo la transición a una empresa con fines de lucro limitada (con inversores limitados a un rendimiento máximo de 100 veces su inversión) y recibió una inversión de mil millones de dólares de Microsoft para poder escalar y competir con los gigantes tecnológicos.
Parece que el dinero se interpuso en el camino de los planes iniciales de apertura de OpenAI.
BENEFICIARSE DE LOS USUARIOS
Además de esto, OpenAI parece estar utilizando los comentarios de los usuarios para filtrar las respuestas falsas que alucina ChatGPT.
Según su blog, OpenAI utilizó inicialmente el aprendizaje por refuerzo en ChatGPT para clasificar las respuestas falsas y/o problemáticas mediante un costoso conjunto de entrenamiento construido a mano.
Pero ChatGPT ahora parece estar siendo sintonizado por sus más de un millón de usuarios. Me imagino que este tipo de retroalimentación humana sería prohibitivamente costoso de adquirir de otra manera.
Ahora nos enfrentamos a la perspectiva de un avance significativo en la IA utilizando métodos que no se describen en la literatura científica y con conjuntos de datos restringidos a una empresa que parece estar abierta solo de nombre.
We need to stop conflating open/gated access and opensource.
ChatGPT is *not* open source — we don’t know what model is under the hood, how it works, or any other tweaks/filters that are applied. (1/n)
— Dr. Sasha Luccioni 💻🌎✨🤗 (@SashaMTL) December 9, 2022
¿DÓNDE SIGUE?
En la última década, el rápido avance de la IA se debió en gran parte a la apertura de académicos y empresas por igual. Todas las principales herramientas de inteligencia artificial que tenemos son de código abierto.
Pero en la carrera por desarrollar una IA más capaz, eso puede estar llegando a su fin. Si la apertura en IA disminuye, es posible que veamos que los avances en este campo se ralentizan como resultado. También podemos ver el desarrollo de nuevos monopolios.
Y a juzgar por la historia, sabemos que la falta de transparencia es un desencadenante del mal comportamiento en los espacios tecnológicos. Entonces, mientras elogiamos (o criticamos) ChatGPT, no debemos pasar por alto las circunstancias en las que nos ha llegado.
A menos que tengamos cuidado, lo que parece marcar la edad de oro de la IA puede, de hecho, marcar su final. forbes.com
