Fm Golfo Azul Villa Pehuenia
La frase «este modelo de IA es tan peligroso que sería un error hacerlo público» es algo más viejo que las primeras versiones públicas de ChatGPT. Esa narrativa de la IA «peligrosa» tiene más de marketing que de realidad, pero no deja de ser el discurso que empresas como Anthropic y OpenAI empujan cada vez que lanzan un nuevo modelo.
Porque no deja de ser una herramienta (que se está bebiendo los recursos mundiales, pero una herramienta) y Yann LeCun tiene un mensaje para esas compañías.
Si de verdad creen que es peligrosa, viven en el oscurantismo medieval.
Narrativa del miedo = bobadas
El pasado 10 de abril, Anthropic liberó Claude Mythos Preview. La compañía afirmó que era el mejor modelo de IA jamás creado y era algo que sólo ellos podían decir porque pocos, muy pocos tenían acceso a dicho modelo. Los análisis y pruebas de compañías como Mozilla apuntaban que sí, era realmente asombroso en entornos como el de la ciberseguridad. No revolucionario, pero sí una herramienta muy capaz.
Claude Fable 5 es el modelo de IA público más potente de la historia. También el más caro, exclusivo y frustrante
Y claro, si caía en malas manos, esa herramienta podía usarse para reventar sistemas y encontrar vulnerabilidades (algo que explotaron esas empresas que tenían acceso). Era «demasiado potente», según Anthropic, una narrativa del miedo que el propio Gobierno de Estados Unidos se encargó de potenciar con la prohibición de que los que no fueran ciudadanos estadounidenses, incluidos trabajadores de Anthropic, pudieran usar el modelo comercial: Fable 5.
Según el padrino de la IA, todo eso es una pamplina.
Yann LeCun es uno de los nombres más célebres del panorama de la inteligencia artificial. Fue en 2013 cuando la otrora Facebook puso a este académico del deep learning y machine learning al frente del barco de la IA de la compañía. En los 80, LeCun desarrolló un algoritmo para entrenar redes neuronales artificiales, y desde entonces se ha labrado una carrera tanto dentro del ámbito educativo como en el privado.
En Vivatech, LeCun participó en un coloquio con Steven Levy, periodista de Wired, y discutieron sobre varios asuntos relacionados con el presente y futuro de la IA. En el escenario, LeCun dejó claro cuál es su postura sobre los actuales modelos de lenguaje (los LLMs) y lo que opina sobre esa narrativa del miedo.
Antes en las reuniones del G7 los focos eran para los líderes mundiales. Ahora los protagonistas son Amodei, Altman y Hassabis
Levy y Yann hablaban sobre el modelo chino más enfocado al open source cuando el ‘gurú’ comentó que «mucha gente, particularmente aquellos cercanos al gobierno de Estados Unidos, creen que la IA no puede ser open source porque ese escenario ya está ocupado por las compañías chinas. Son modelos buenos y baratos, algunos gratuitos de usar, y en mitad de eso tenemos compañías como Anthropic».
LeCun no ha tenido problemas en el pasado a la hora de referirse a rivales en este campo y, en este caso, argumentó que «Anthropic, y otros pocos, son un lobby que, esencialmente, quieren que la IA no sea open source porque creen que es una tecnología intrínsecamente peligrosa». Entonces, Yann se puso a enumerar cambios que realmente han tenido un peso en la historia de la humanidad como los avances que dieron paso a nuevas edades. Pero… ¿la IA?
Las tecnológicas ya ni siquiera fingen buscar la inteligencia artificial general. Y el «padrino» de la IA se ha cansado
«Así que, ¿qué es hoy la IA? Como mínimo, es una manera de diseminar conocimiento. De momento, no es una forma de generar nuevo conocimiento y la única forma que tienen de funcionar es mediante repositorios de conocimiento humano y permiten que la gente tenga acceso sencillo a esos repositorios. Así que, es básicamente eso, una forma más de hacer que la gente sea más inteligente gracias a que puede acceder al conocimiento humano».
Para LeCun, estos LLMs son una Wikipedia vitaminada, pero si no se ha cortado en el pasado hablando de rivales y jugadores en materia de IA, tampoco lo hizo en la feria parisina. «Si vas a bloquear una herramienta pensando que es muy peligrosa, estás en el oscurantismo medieval», aseguró el académico. Levy apostilló apuntando que básicamente «eso de descubrirnos una herramienta y luego quitárnosla de las manos es un comportamiento más típico de la iglesia católica llamando «hereje» a Galileo por sus teorías.»
Porque, para LeCun, todo se resume en una palabra distinta a «peligro»: «control». «Esta es la forma en la que ellos controlan el mensaje y lo que la gente puede o no puede hacer con sus herramientas. Si compras un boli, no quieres que la compañía que te lo vende te diga qué puedes escribir con él. Hay un límite con lo que las compañías pueden decirte sobre el uso de sus herramientas».
EEUU no apagó Claude Mythos por miedo a un jailbreak, lo hizo porque sospechaba que alguien estaba mirando. Ese alguien es China
Al final, aquí LeCun no está teniendo en cuenta que estas compañías con modelos propietarios (cualquiera con un servicio propietario, en realidad) sí pueden dictar qué haces con las herramientas que licencias y cuándo pueden cortar el grifo. Lo estamos viendo hasta con videojuegos que las empresas te quitan de tu SSD cuando consideran que ya no debes tenerlo, pero ese es otro tema.
Yann terminó su argumento apuntando que compartir conocimiento es cultura, que eso es bueno y que, aunque haya una contraparte negativa (compartir cultura también puede llevar a la radicalización), lo que no hay que hacer es controlar qué puede hacer la gente con las herramientas de IA. «Hay una gran arrogancia y complejo de superioridad en la idea de que sólo unos pocos son capaces de controlar la IA y restregárselo a las masas que no tienen acceso».
Si los LLMs no son la respuesta, cuál es
En su intervención, LeCun dejó claro que, para él, los LLMs no son el grial (como sí vendieron varios de los CEOs de empresas de IA que pasaron por los paneles de Vivatech). Estos modelos de lenguaje son una Wikipedia en esteroides y un «teclado» predictivo vitaminado. Hay dos cosas que Yann reconoce que los LLMs hacen muy bien: matemáticas y código, pero la revolución llegará con los verdaderos agentes y la IA física.
Para LeCun, lo que no estamos consiguiendo con los LLMs son dos cosas. «La primera es que, si quieres construir un sistema agéntico como aquellos de los que todo el mundo habla, no puedes hacerlo fiable sin que tenga la capacidad de anticipar el resultado y las consecuencias de sus acciones. La mayoría de nosotros tenemos la capacidad. Quizás algunos políticos no».
La IA va a generar una riqueza sin precedentes. La pregunta que empieza a hacerse todo el mundo es quién va a quedarse con ella
«Pero nosotros somos ciertamente capaces de anticipar el resultado derivado de nuestras acciones para planificar una secuencia de acciones con las que cumplir una serie de tareas. Eso es lo que es un modelo de mundo». LeCun comenta que hay que trabajar en modelos que predigan el estado futuro del mundo con la fórmula t + 1 en el que «1» puede ser 10 milisegundos, un segundo, un minuto o diez años. «Ese es un modelo de mundo».
Ahí está la complicación, ya que las empresas quieren llegar a ello a través de modelos de lenguaje que, como ya ha comentado, no dejan de ser teclados predictivos venidos a más y «nunca pueden predecir exactamente qué palabra seguirá a una secuencia de palabras». Y, si no pueden hacer eso, no pueden predecir los datos del mundo real.
Pone como ejemplo la creación de vídeo. Argumenta que puede grabar una panorámica del escenario y el público, pero que si se para en cierto punto y pide a una IA que reconstruya lo que queda, fallará. Lo considera «un problema matemáticamente intratable porque no sabemos cómo representar distribuciones sobre un número infinito de resultados plausibles» y afirma que la idea es que la IA debería encontrar una representación abstracta de las observaciones y hacer predicciones en ese espacio de representación abstracta, pero «no intentar reconstruir todos los detalles que, en realidad, no son predecibles».
Las grandes fortunas de la inteligencia artificial: quién es quién en los nuevos millonarios de la IA
Precisamente, LeCun lleva trabajando en eso desde que salió de Meta. Confesó que se ha tirado 15 años trabajando en la idea de un aprendizaje autosupervisado mediante la predicción de vídeo, pero que falló durante la primera década. Después se le ocurrió dejar de perseguir esos modelos generativos que intentan predecir a nivel de pixel para pasar a ese trabajo abstracto y es donde está viendo progresos.
El problema es que no hay nada claro ahora mismo sobre este hecho y es más, en un panel que se celebró a continuación, CEOs de empresas de IA criticaron la postura de Yann, apuntando que menos decir lo que no está bien y más dar soluciones.
Pero bueno, más allá del «pique» que pueda haber, y más a título personal, fue un gusto escuchar a Yann LeCun y Steven Levy dialogando, y soltando dardos, sobre este campo al que tanto le queda por delante.
Imágenes | Xataka
En Xataka | El futuro de la geopolítica se juega en los modelos IA: el veto de Claude Fable 5 indica que Europa está en fuera de juego
–
La noticia
Yann LeCun, padrino de la IA: «Si bloqueas una IA porque crees que es peligrosa, estás en el oscurantismo medieval»
fue publicada originalmente en
Xataka
por
Alejandro Alcolea
.
