El Chat GPT (Generative Pre-trained Transformer) revolucionó el mundo hace exactamente un año cuando fue liberado por la empresa OpenAI. Fue el primer chatbot de Inteligencia Artificial Generativa (IA Generativa) que significó un giro de 180° en la era de las tecnologías, y que amenaza con ser mucho más significativo para la humanidad, para bien o para mal, que la invención de Internet.
El Chat GPT es un modelo de lenguaje desarrollado por OpenAI que tiene la capacidad de generar texto coherente y relevante en respuesta a una entrada específica. Se trata de una implementación diseñada específicamente para interactuar en conversaciones con los usuarios, capaz de crear sus propias respuestas tomando como información una extensa base de datos.
En las últimas semanas, asistimos a una nueva evolución de esta inteligencia artificial que ya no es solamente la IA Generativa sino la IA General (AGI, por sus siglas en inglés), lo que implica que estamos ante una herramienta muchísimo más poderosa. Esta tecnología estuvo en el centro de la disputa de la empresa OpenIA y es considerada tan poderosa que podría ser una amenaza para la humanidad.
Con respecto a esto hay diferencias entre aquellos optimistas y pesimistas del avance de esta tecnología, para lo cuál hablamos con Alexander Ditzend, ingeniero industrial y presidente de la Sociedad Argentina de Inteligencia Artificial (SAIA). Pero primero, vamos por partes.
¿Cuál es la diferencia entre la IA Generativa y la IA General?
“Una inteligencia artificial generativa es toda aquella que como producto genera un dato nuevo, un dato sintético, ese dato puede ser texto nuevo en el formato de Chat GPT sería palabra por palabra pero, en definitiva, termina apareciendo un texto coherente. Pueden ser imágenes nuevas, puede ser música nueva, sonidos nuevos y todo eso es lo que queda adentro del marco de lo que es la inteligencia artificial generativa”, señaló Ditzend en diálogo con MDZ.
Foto: Shutterstock.
El presidente de la SAIA, también se refirió al término inteligencia artificial general que, según sus palabras, se trata de “un sistema que pueda resolver más de un problema a la vez. Nosotros en los últimos años estuvimos muy acostumbrados a ver inteligencias artificiales estrechas, o sea, especialistas en resolver una sola tarea. Por ejemplo, saber si una manzana estaba podrida o no y era lo único que podían hacer. Ahora con estos sistemas lo que estamos viendo es que tienen capacidad de resolver todo tipo de problemas”, sostuvo el ingeniero.
Particularmente, Ditzend indicó que el término IA General “apunta a un sistema completamente artificial que es casi indistinguible, desde el punto de vista de la inteligencia y la capacidad de resolución de problemas, con un ser humano promedio”. Ese es el punto en el que se vuelve controversial.
¿Cuáles pueden ser las consecuencias de liberar a la IA General?
“Algunos riesgos que una minoría de la comunidad científica está alertando es que una vez que esté liberado al publico una IA General, el tiempo que tenemos a una súper inteligencia, ósea, a darle vida o nacimiento a algo más inteligente que nosotros es muy corto. Porque nosotros empezaríamos a utilizar el desarrollo y toda la potencia de la IA General en el desarrollo de nuevos modelos, más potentes y de mejores computadores y de mejor investigación de materiales, todos aplicados al cómputo, para seguir generando inteligencia artificial más potente. Entonces ese tiempo en el que la inteligencia artificial, se vuelve más inteligente que nosotros sería muy corto y no tendríamos tiempo de ajustarnos ni a nivel cultural ni a nivel de controles sobre esa inteligencia artificial“, explicó el especialista.
Foto: Efe.
En ese sentido, agregó que “lo que se estuvo viendo en los últimos desarrollos es que con cada modelo aparecían capacidades emergentes, sorpresas, cosas que el modelo hace sin que se lo hayan pedido que está muy buenas pero que nadie se las pidió, que aparecieron solas por la cantidad de cómputos que tiene involucrados y la cantidad de datos que se interrelacionaron entre sí. Entonces, si hubo ese emergentes en todos los modelos de lenguaje que lanza OpenIA, la discusión va en torno de si seguimos por este camino y si seguimos teniendo estas sorpresas que no sea tan beneficioso para la sociedad”.
Para ejemplificarlo, una superinteligencia artificial, sin controles y sin sentido de la “humanidad“, podría hacer todo lo posible para cumplir su objetivo y, con ello, traer graves consecuencias. Por ejemplo, si le solicitáramos que cure una infección en un pie, quizás vaya a lo seguro, que sería amputarlo sin tener en cuenta otras opciones intermedias que pueden ser más difíciles pero que conservarían la extremidad de una persona.
Por ello, entre los investigadores hay visiones más temerosas o cuidadosas, ya que la IA General podría acabar matando a la humanidad en su afán de resolver ciertos problemas o cumplir con los objetivos requeridos. Sin embargo, el presidente de la SAIA consideró que “esta visión es minoritaria y a nivel personal creo que hay que tener cuidado, hay que invertir todo lo que se pueda en seguridad, pero de ninguna manera creo que que estemos en ningún tipo de peligro”.
¿Cuál fue la disputa en OpenAI que tuvo a la IA General en el centro?
Hasta hace poco tiempo, se consideraba que el Chat GPT aún era una tecnología limitada. Una investigación realizada por un equipo de investigadores de la Universidad Politécnica de Madrid a partir de Chat Words -una aplicación de código abierto- fue publicada a principios de noviembre y demostró que este chatbot “desconoce el 20% del idioma español y con respecto al 80 por ciento de las palabras que sí conoce, interpreta significados equivocados en un 5% de las ocasiones”.
Sin embargo, con el desarrollo de la IA General, como acabamos de contar, los límites pueden ser prácticamente nulos y por esos motivos, esta tecnología superpoderosa sería la razón que se esconde detrás del enredo del despido y reincorporación de Sam Altman, el CEO de OpenAI. La semana pasada, Altman fue despedido de esa empresa, contratado por Microsoft y reincorporado tras las amenazas de sus compañeros de irse junto a él si no volvía. Finalmente regresó, los empleados se quedaron y los que tuvieron que renunciar fueron los miembros de la junta directiva que habían echado a Altman, exceptuando uno que se quedó.
Tal como trascendió en algunos medios, en el medio de la disputa habría estado la IA General. Los rumores aseguran que antes de despedir a Altman, investigadores de OpenAI que se encontraban desarrollando la versión 5 de Chat GPT habrían avisado a la junta directiva sobre un avance que podría poner en riesgo a la humanidad.
Aún no se ha confirmado ni desestimado esta versión de los hechos, sin embargo, las discusiones entre especialistas del sector continúan y hay quienes advierten que si la IA General es liberada al público como fue la IA Generativa – sin regulación acorde mediante- podría traer graves consecuencias para la humanidad.