La gran mentira de la Inteligencia Artificial 🤯🤖 | Ramón L. de Mántaras

es software es software conciencia pero<br>estamos locos o qué el titular un<br>artificial descubre Una entre artificial<br>hace esto hace lo otro si tienes un<br>mínimo de sentido crítico tendría que<br>chirriar algo de todo eso Ramón López de<br>mántaras es el director la máxima<br>autoridad en nuestro país sobre<br>Inteligencia artificial uno de nuestros<br>investigadores más destacados a nivel<br>internacional es el primer investigador<br>de una universidad fuera de los Estados<br>Unidos que recibió el premio<br>artificial mustafa en una charla Ted no<br>hace mucho determinó que no es software<br>sino que es un ente vale muy<br>bien pasa pasa página pero es el<br>vicepresidente de Inteligencia<br>artificial de micorta un huevo lo que<br>sea este señor todas las preguntas estas<br>están ya en el conjunto de entrenamiento<br>Esto para mí es definitivo de que<br>regurgitan y no razonan yo tengo mis<br>dudas samman Dario Mod elon musk kinton<br>Rio techmark hay muchos nombres muy muy<br>muy potentes para mí esos son nombres<br>sospechosos Por qué son sospechosos<br>porque tienen sus intereses Estos son<br>[Música]<br>[Música]<br>Inteligencia artificial podría ser un<br>peligro para la humanidad la pregunta<br>que se hay que hacer estas personas que<br>dicen esto Si de verdad lo creéis pero<br>profundamente de verdad lo<br>[Música]<br>creéis la mayoría de veces tendemos a<br>traer perfiles que hablan de lo que la<br>Inteligencia artificial puede hacer hoy<br>precisamente vamos a hablar de otra cosa<br>Y es de lo que quizá no es nos están<br>vendiendo una moto con la Inteligencia<br>artificial nos han mentido es una<br>campaña de mar a gran escala para que<br>nos gastemos el dinero en soluciones de<br>ia que no aportan tanto valor como<br>parece esa es posiblemente la opinión<br>resumida de Ramón López de mántaras uno<br>de los mayores científicos del campo de<br>la Inteligencia artificial que tiene<br>España y Europa una de las personas con<br>más autoridad y que opina que nos están<br>tomando el pelo con esto de la<br>Inteligencia artificial hoy vamos a<br>hablar de ello y vamos a ver cuál es su<br>opinión Porque queremos ver todas las<br>posibles respuestas a la inteligencia<br>artificial Ramón Muchísimas gracias Es<br>un placer tenerte hoy aquí Cuéntame un<br>poco cuál es tu visón de la Inteligencia<br>artificial qué opinas de la Inteligencia<br>artificial es buena es mala bueno la<br>Inteligencia artificial en sí misma como<br>bueno como muy obvio decirlo no como<br>otras tecnologías pues no no es buena ni<br>es mala es es Es es claramente depende<br>de que hagamos con ella No qué<br>decisiones tomamos con ella si les damos<br>más o menos autonomía si<br>si estamos más o menos influenciados por<br>intereses económicos o o no el mundo<br>académico por ejemplo tiene<br>opiniones creo bastante dispares en<br>general eh que que el mundo de las<br>grandes empresas tecnológicas por<br>ejemplo no en cuanto a a la realidad a<br>su potencial a sus<br>límites en fin a a los riesgos y pelig<br>os aquí<br>discursos bastante diversos distintos no<br>diría yo eh yo tengo obviamente mi<br>opinión personal mi opinión personal es<br>es Es más bien va en la línea crítica no<br>crítica de que pienso que estamos<br>exagerando mucho sobre lo que lo que<br>creemos que es capaz de hacer la<br>Inteligencia<br>artificial el hecho de que sea el<br>concepto de inteligencia sea o o o la<br>visión que tenga uno Intel artificial<br>puede ser muy variada y muy ambigua como<br>lo definamos también eso influye en esta<br>en que haya confusión Cuando alguien<br>habla de in artificial general no<br>sabemos realmente A qué se está<br>refiriendo A menos que lo lo lo aclare<br>un poquito lo Define lo defina<br>mínimamente no y a veces hay hay<br>discusiones y hay puntos de vista que<br>que el origen del del de las de las de<br>las visiones o los enfoques distintos<br>tienen que ver con concepciones<br>distintas de lo que es Inteligencia<br>artificial y en particular de lo que es<br>Inteligencia artificial general de hecho<br>es uno de los grandes problemas del<br>mundo no la semántica Como definimos las<br>palabras y a partir deí creamos debates<br>que a veces no son tan debates en el<br>momento Def pal las palabras son<br>importantes obviamente y por lo tanto yo<br>pienso que hay que ser mínimamente hay<br>que intentar<br>finir en la medida de que que sea de lo<br>que de que sea posible de qué estamos<br>hablando No de hecho Marvin minsky ya<br>hablaba de les<br>llamaba las palabras como inteligencia<br>pensar razonar aprender son lo que él<br>llamaba Sweet Case words o sea palabras<br>maleta podíamos traducir en el sentido<br>de que admiten admiten una gran variedad<br>de de de puntos de vista no y y tenía<br>mucha razón en esta afirmación no y es<br>lo que nos está ocurriendo en este<br>momento y a mí se me quedó muy grabado<br>creo que fue en 2023 cuando Sebastian<br>buek En una conferencia que dio en<br>Stanford sparks ofi que es una gran<br>paper y él dijo algo que preguntaba<br>entonces la Inteligencia artificial Es<br>inteligente y la respuesta era pues<br>depende como definas inteligencia no es<br>uno de los grandes kits que yo creo que<br>nos ha llevado precisamente a lo que tú<br>dices a mucha confusión que espero que<br>hoy podamos ayudar a la gente que nos ve<br>o nos Oye a aclarar un poquito más no<br>porque creo que eres una de las personas<br>que bueno que tiene un conocimiento y<br>creo que que nos vas a aportar mucha luz<br>en todo esto antes de entrar en esa<br>parte más de de lo que entendemos como<br>inteligencia Y lo que es realmente la ía<br>y lo que no cómo llegas tú a la<br>Inteligencia artificial Ah yo<br>empiezo obviamente no empiezo en<br>Inteligencia artificial inmediatamente<br>porque estamos hablando del<br>año 69 que yo tenía 17 años y estaba<br>tenía algunas dudas acerca de de qué<br>carrera hacer o sea yo sabía que quería<br>me interesaba el tema del mundo de la<br>ciencia la ingeniería pero no tenía del<br>todo decidido entonces vi tuve la<br>ocasión de ver eh por televisión en<br>directo la la algada a la luna de<br>amstrom aldren y Collins bueno se quedó<br>se quedó en la nave Pero y me impresionó<br>tantísimo tantísimo tantísimo que empecé<br>a darle vueltas el resto del verano era<br>el mes de julio y lo tenían tan presente<br>en la cabeza que cuando el primer día<br>que vamos a clase después de vacaciones<br>le pregunto al profesor de física que<br>nos esta física y matemáticas digo cómo<br>es posible que se haya podido llegar<br>hasta hasta la luna no<br>e lo pil un poco descolocado Al pobre<br>pero bueno me dijo algo que que creo que<br>que que tenía mucha mucha razón una<br>respuesta muy muy sensata de esto es<br>gracias a la electrónica y eso fue lo<br>que me me decidió di Pues voy a estudiar<br>ingeniería electrónica y así Empecé con<br>ingeniería electrónica No aquí sino<br>estuve en el país Vasco en lo que es<br>ahora la universidad de mand dragón y<br>los Que terminamos la carrera los<br>primeros de las promociones nos teníamos<br>la posibilidad de ir a a continuar<br>estudios en tuluz en Francia y fui fui a<br>tuluz y allí hice una física la carrera<br>de física con hice dos años para<br>terminar física y luego hice el<br>doctorado y el doctorado tuve la ocasión<br>la buena suerte de que había un tema de<br>muy que me interesó mucho que era Cómo<br>hacer que un robot aprendiera a<br>reconocer objetos no sin verlo<br>simplemente con el tacto con una mano<br>antropomórfica una mano robótica<br>antropomórfica con sensores de de tacto<br>una especie de piel artificial entre<br>comillas y también midiendo los ángulos<br>de de las fal había muchos sensores eh<br>podía discriminar entre objetos sólidos<br>eh que tuvieran formas distintas no y<br>desarrollé varios algoritmos de<br>autoaprendizaje de manera que sin<br>decirle qué objeto era se daba cuenta al<br>cabo de muchos muchos agarrar muchos de<br>estos objetos era capaz de discriminar<br>unos de otros los que eran esféricos de<br>los que eran exaedro los que eran<br>tetraedros los que eran paralepípedo fin<br>eran formas geométricas relativamente<br>simples o simples regulares no estamos<br>hablando del que yo terminé mi tesis y<br>defendí en el 77 no O sea que en aquella<br>época pues hacer un algoritmo de<br>aprendizaje automático basado en en<br>técnicas probabilísticas que ahora son<br>lo que predomina eh Ya fue el objeto de<br>mi tesis en el 77 no Y de ahí pues ya el<br>paso siguiente ya estaba aú sin saberlo<br>es curioso yo yo en el 77 no era<br>consciente que aquello que había hecho<br>yo eh se llamaba Inteligencia artificial<br>en Estados Unidos yo lo planteaba como<br>una aplicación de de de de modelos<br>matemáticos físicos a a un robot y nada<br>más no pero luego empecé a ver artículos<br>y que había congresos eh sobre<br>Inteligencia artificial en donde había<br>sesiones y artículos que se presentaban<br>que tenían que ver con esa las cosas que<br>haba hecho en la tesis no O sea tenían<br>que ver con algoritmos para que los los<br>robots o los sistem los<br>computadores aprendieran aprendieran a a<br>discriminar objetos a clasificar pattern<br>recognition se llama reconocimiento de<br>patrones y digo Bueno pues yo quiero<br>saber más de eso ahora voy a meterme<br>edad de lleno en el tema no y conseguí<br>Pues bueno fui de posgraduado a la<br>universidad de California berkley y allí<br>ya me especialicé puramente en<br>Inteligencia<br>artificial bajo la la dirección de del<br>profesor l fade que era uno pionero de<br>la Inteligencia artificial que hizo<br>trabajos Ya a finales de los 40 finales<br>de los 40 Incluso en donde ya hablaba de<br>máquinas inteligentes antes de que se<br>acuñas y es es el de hecho es el padre<br>el introductor de de la lógica fi la<br>lógica difusa lógica borosa que en<br>intente artificial pues ha estado<br>jugando un papel importante a la hora de<br>modelizar computacionalmente El<br>razonamiento bajo incertidumbre y bajo<br>imprecisión a pesar de la imprecisión y<br>del inherente y la incertidumbre<br>inherente en el lenguaje y en el mundo<br>como manejar modelizar matemáticamente<br>esta imprecisión esta incertidumbre de<br>maneras alternativas a las<br>probabilidades mediante lo que se llaman<br>lógica lógica difusa en lugar de lógica<br>probabil<br>Y supongo que haber vivido durante toda<br>esa época e estar viviendo lo de ahora<br>lo veis de una forma distinta he hablado<br>ya con varia gente que que lleva décadas<br>trabajando en esto y y evidentemente ha<br>habido un cambio radical no de cuando<br>hemos pasado de la ida tradicional<br>Machine learning Deep learning a la<br>generativa no que entiendo que es un<br>punto el que habo la gran inflexión y la<br>gran popularidad obviamente a través de<br>chat gpt y todo lo demás cómo Has vivido<br>esa transición en el sentido de que<br>estás sorprendido con lo que está<br>haciendo la Inteligencia artificial Sí<br>claro claro no hay que hay que hay que<br>admitir que es bastante sorprendente a<br>lo que estamos viendo en base a un a una<br>idea que parece en sí misma pues muy<br>simple no como es autocompletar o sea es<br>es un son algoritmos de autocompleta<br>pero a la bestia Digamos si me permites<br>la expresión no eh No es lo mismo que te<br>complete un mensaje cuando estás<br>escribiendo con el móvil algo y que te<br>complete la palabra que no lo que hace<br>un gr un large Language model no un<br>model extensivo grande de lenguaje que<br>hace una cosa pues esto pero super<br>amplificado y s sofisticado y con<br>algoritmos bien complejos que hay detrás<br>que de hecho muchos no lo no sabemos muy<br>bien realmente qué es lo que hay detrás<br>pero bueno Y eso ha sido sorprendente<br>también fue sorprendente hace unos 10<br>años la con el Deep learning el hecho de<br>de que de pronto<br>eh principio parecía raro que de pronto<br>ideas que existían Desde hacía 30 años<br>porque las ideas ya las ideas ya<br>existían no de los algoritmos de de de<br>multicapa no de redes neurales con<br>múltiples capas Lo que pasa que no<br>podían no podían aprender eh No<br>convergían en el aprendizaje porque se<br>requería Por una parte muchos muchos<br>muchos datos para ser entrenados cuando<br>hay tantísimos parámetros pu muchas<br>capas como sabemos hay trillones de<br>parámetros y tampoco había suficiente<br>acceso fácil a computación de muy altas<br>prestaciones hace unos 10 12 años al<br>converger estas dos estos dos Pilares no<br>tener capacidad de acceso acceso<br>a a computación de alas prestaciones en<br>base a gpus como sabemos y una enorme<br>disponibilidad de datos Y eso empieza<br>todo con imagenet no la famosa base de<br>datos de imágenes Esto es lo que<br>posibilita el gran el gran salto<br>cualitativo el gran despegue de de estos<br>algoritmos de estos sistemas de Deep<br>learning que son capaces de aprender de<br>aprender de manera relativamente<br>eficiente no Esto fue un cambio<br>fundamental Es lógico que gente con<br>tanto conocimiento como tú sepáis<br>explicar el porqu estamos donde estamos<br>ahora mismo y de donde venimos Pero hay<br>algún momento en todo este proceso que<br>te pillado en plan esto no me lo<br>esperaba o sea yo no hubiese dado un<br>duro porque esto realmente pudiese hacer<br>estoa sin<br>duda sin duda lo lo del aprendizaje<br>profundo era más era más<br>previsible porque por ejemplo yo mismo y<br>no solamente yo mucha gente a partir del<br>momento en que fe en<br>Stanford tienen la idea utilizando<br>mechanical t no utilizando este sistema<br>de de etiquetaje en donde te pagan una<br>pequeña cantidad para ir etiquetando<br>imágenes a partir del momento en que<br>está disponible para el mundo para la<br>investigación no para el mundo académico<br>eh pereno Para todos no no solo el mundo<br>académico las empresas quien sea una<br>base de datos de imágenes de millones y<br>muchos millones de imágenes eh<br>Y existiendo ya eh con<br>procesadores de altas prestaciones ahí<br>no fue tan sorpresivo que estos<br>algoritmos de<br>aprendizaje básicamente o sea en torno a<br>la idea del de la propagación hacia<br>atrás no Back propagation pues tuvieran<br>éxito este éxito espectacular en el<br>reconocimiento en el acierto en<br>reconocer imágenes no la gente Quiz<br>sente quizá la gente no lo conoce no es<br>tan sorprendente para vosotros pero pero<br>lo que sí que es cierto es que hubo un<br>momento en que el equipo liderado por<br>Hinton pero sobre todo conia susc ver a<br>la cabeza sí sub subber era un<br>estudiante de exo y se presentaron a<br>imagenet utilizando<br>gpus como herramienta para procesar eso<br>y barrieron un poco nadie se esperaba el<br>porcentaje de de acuras de acierto en<br>reconocimiento de imágenes en imag net<br>había y había en los congresos había<br>pues estos estas competiciones no estos<br>concursos de a ver quién que Cuántas Qué<br>porcentaje era conseguías con tu<br>algoritmo y ahí el hecho de uar G cambi<br>70 y poco por cento no recuerdo<br>exactamente ahora la firza O quizá el 70<br>hizo un salto cualitativo brutal con suc<br>y esta gente y al grupo de Hinton al 85<br>por. y pero pero eso no es todo al cabo<br>de nada cabo de cuestión de meses o<br>máximo un año este 85 por se transformó<br>en un 95 96 partir Ah ya fue ya sabemos<br>el camino por el que tirar No de hecho<br>es es curioso porque cuando indagas un<br>poquito en la historia de la<br>Inteligencia artificial todos los<br>nombres que ahora mismo están en el top<br>de Inteligencia artificial fe Hinton<br>etcétera todos van apareciendo de todo<br>eso pero claro en ese entonces nadie les<br>conocía y les trataban de locos yo<br>recuerdo que vi un speech de Hinton que<br>decía que habían tenido que comprar las<br>gpus en una tienda en la calle que no no<br>tenían acceso ni tan solo habían<br>comprado una gpu de videojuegos para<br>poder hacer esto oc cor O sea que es que<br>es muy curioso Cómo ha sido pero desde<br>luego Hemos llegado aquí sin duda sin d<br>qué es lo que te ha sorprendido Entonces<br>porque di que m lo que me ha sorprendido<br>es lo último esto de la de los grandes<br>modelos lenguaje no est en base a una<br>idea que parece relativamente sencila<br>aunque las apariencias engañan no detrás<br>hay hay mucho mucha complejidad no se<br>consiga lo que se lo que se consigue con<br>la artificial generativa Esto sí que que<br>eso sí que nos pó much a muchos por<br>sorpresa no tanto el Deep learning O sea<br>la idea de con el famoso artículo de<br>todo lo que necesitas es atención no que<br>introduce concepto la red neuronal que<br>se llama Los Transformers a partir de<br>ahí bu esto se dispara no y empieza<br>además es como una carrera<br>armamentística de unas empresas contra<br>otras<br>las el Abierto código abierto versus el<br>propietario aparecen bueno todos estos<br>modelos que todo el mundo Ha oído hablar<br>que ya ya ya te pierdes En las siglas<br>porque hay cientos o miles y Lu aparece<br>dips con los chinos con dips hace poco y<br>ahí se va viendo que bueno que esto es<br>está en plena evolución pero<br>Pero supongo que también comentaremos en<br>algún<br>momento que no no solo todo que ruce y<br>que en mi opinión y en la de otros<br>estamos tocando techo en cuanto a<br>exprimir sacarle jugo a a los grandes<br>modelos de lenguaje si no añadimos más<br>cosas de hecho yo creo que tenemos que<br>meternos en ello porque te he oído decir<br>que la palabra intelcia<br>está mal planteada no sí Ah Bueno claro<br>aquello que dicen una vez visto todo<br>como esa frase todo el mundo es listo o<br>algo así o aoro pasado pasado no sé qué<br>bueno si ahora es fácil ahora es fácil<br>decir ah en el año 56 Quizá no fue un<br>gran acierto Llamar Inteligencia<br>artificial a lo que es lo que es la<br>Inteligencia artificial no Por qué bueno<br>pues porque es un de entrada ya es una<br>una término ial ya es una super<br>antropocéntrico<br>antropomórfico Y entonces claro<br>enseguida caes en la en la la tentación<br>y en la de antropomorfizar la<br>Inteligencia artificial y el propio<br>nombre ya te induce a ello no<br>inevitablemente Si se hubiera llamado yo<br>que sé Advance information processing o<br>sea no sé es procesamiento avanzado de<br>información o en fin otra cualquier otra<br>cosa que no que no estuviera dentro la<br>palabra inteligencia y todo<br>pues no sé a lo mejor no estaría ahora<br>tan así hype no lo mejor ni existiría No<br>lo sé porque crees que es erróneo que no<br>es inteligente Bueno claro no es<br>inteligente en cuidado qué es lo<br>que volvamos a la semántica no definamos<br>inteligencia empecemos por definamos<br>inteligencia a ver para empezar y es muy<br>difícil definir inteligencia porque es<br>que ya sabes que hay propiamente<br>olvidémonos de la artificial no la<br>nuestra la humana los animales los seres<br>vivos y ya esto ya es ya complicadísimo<br>no y hay un montón de propuestas no<br>hecho desde el punto de vista desde la<br>psicología cognitiva hasta bueno<br>ciencias cognitivas neurociencia<br>etcétera no filosofía eh Qué es la<br>inteligencia noces bueno para empezar es<br>muy complicado pero a lo mejor no se<br>trata tanto de definir definir de una<br>manera estricta y formal lo que es la<br>inteligencia<br>que que no sé si tiene si es posible de<br>la misma manera que la biología sigue su<br>curso la investigación en biología y las<br>aplicaciones y los de la biología y<br>tampoco hay una definición<br>absolutamente digamos consensuada<br>indudable de lo que es vida eh incluso<br>hay hay hay definiciones diversas sobre<br>el concepto de vida y eso no no no tiene<br>consecuencias parece<br>enormemente graves en cuanto al Progreso<br>al trabajo en biología pienso que que<br>que en inteligencia estamos un poco en<br>la misma situación ahora lo que sí que<br>que que quiero dejar claro es que en mi<br>opinión cuando hablas cuando hablamos de<br>inteligencia hablamos de inteligencia<br>pienso yo artificial Perdón in<br>artificial en el sentido de a la que se<br>a lo que se referían aunque no la<br>llamaban en general En aquel momento<br>porque no existía este este Esta esta<br>este término a lo que en el año 56 a lo<br>que mccarty minsky<br>selfridge todos todos<br>estos newell Simon hablaban de la<br>inteligencia En aquel momento cuando<br>hablaban de inteligencia tenían muy<br>claro que decían si una máquina sea<br>inteligente se referían a que sea<br>inteligente exactamente en el sentido<br>humano o o animal de ser<br>inteligente vale Yo pienso que este es<br>el problema Este es el problema<br>si decimos no no no tiene nada que ver<br>con la inteligencia humana llamamos<br>inteligente a un sistema de Inteligencia<br>artificial en un sentido puramente<br>metafórico<br>eh pero no vamos más allá bueno pues<br>entonces si lo dejamos muy claro<br>Entonces yo puedo admitir que se pueda<br>se puede decir decir eh metafóricamente<br>que un llm un modo lenguaje much gpt<br>metafóricamente pu decir que es<br>inteligente pero no realmente no<br>realmente Pero cuál es la diferencia<br>porque yo creo que aquí hay dos partes<br>muy importantes una es el cómo lo<br>definimos sí la segunda Quizá es el Cómo<br>se produce el resultado de esa pseudo<br>inteligencia o inteligencia porque al<br>final para mí lo para la mayoría de los<br>mortales lo realmente importante es el<br>resultado o sea realmente sies si<br>eres behaviorista Sí o sea có es<br>traduciría esto si<br>eres compacion<br>ista Pues sí<br>pero habla con cualquier filósofo<br>neurocientífico y verás que las cosas no<br>van por ahí hay que ser funcionalista<br>también es decir qué es lo que hay<br>detrás Cuáles son los<br>mecanismos para que la gente lo entienda<br>la Inteligencia artificial<br>eh hace cosas de una forma muy distinta<br>a la inteligencia humana Noa funcionamos<br>de una forma mu distinta exacto a pesar<br>de que hasta cierto punto hay ciertas<br>analogías pero es una forma muy distinta<br>de hacer las cosas pero el tema está en<br>que el resultado final es decir creame<br>un correo electrónico para vender unas<br>gafas de sol es muy parecido en ambos<br>casos el proceso puede ser parecido el<br>proceso para llegar a ese correo<br>electrónico es completamente distinto Lo<br>que pasa que el resultado que puede<br>parecer que tenga que ver con la<br>inteligencia es muy parecido Y eso es lo<br>que lleva a la confusión pero realmente<br>es importante Cuál es el proceso Más<br>allá de desde pun<br>para mí Lo importante no solo es el<br>resultado desde un punto de vista<br>científico no te puedes conformar solo<br>con el resultado vale el proceso es<br>importante en ciencia también vale<br>Porque además fíjate piensa que En<br>aquellos años cuando hablaban de incia<br>artificial hablaban a ver buo el test de<br>tuning es es<br>es behavior no es comportamiento externo<br>para que la gente lo entienda se supone<br>que es el momento en que un humano no es<br>capaz de diferenciar la interacción con<br>una máquina de con otro humano y él sale<br>el turing propone eso precisamente para<br>evitar el gran problema de tener que<br>definir Qué es eso de inteligencia dice<br>no me voy a meter en este bereng genal y<br>diré diré que algo Es inteligente cuando<br>pas visto desde externamente su<br>comportamiento vemos que es<br>indistinguible al comportamiento de de<br>uno humano hemos pasado el tes de turing<br>bueno a ver el tes no tiene mucha<br>importancia En mi<br>opinión en sí mismo No es un objetivo de<br>la Inteligencia artificial ni mucho<br>menos no es sería en todo caso un efecto<br>colateral de una de una Inteligencia<br>artificial pues muy sofisticada no el<br>test tunic además no mide En mi opinión<br>nada que ver con la inteligencia tampoco<br>no De hecho lo puedes<br>programar diseñar para que engañe y para<br>que ha pretenda ser y esto lo hacen muy<br>bien los<br>llms Precisamente es excelente en este<br>desde este punto de<br>vista tienes la sensación de que al otro<br>lado hay algo realmente inteligente y<br>que comprende la semántica den<br>notacional del lenguaje tiene una<br>semántica distributiva que Pero bueno<br>podemos llamar semántica pero es una<br>manera muy En mi opinión muy laxa de<br>referirse al significado a la<br>semántica que tienen los los lmes para<br>mí la importante es la semántica den<br>notacional aquel donde hay un<br>significante y un significado y el<br>significado está en el mundo eh los<br>grandes lingüistas y el padre de la<br>lingüística moderna Ferdinand de s es el<br>que distingue entre el significante y el<br>significado los términos lingüísticos<br>que estamos que estamos usando<br>escribiendo o hablando son los<br>significantes eh que son las palabras<br>no pero el significado es aquello a lo<br>que nos referimos en el mundo exterior y<br>no solamente objetos eh sino también el<br>mundo social no el mundo no solamente<br>objetos inanimados sino todo lo que es<br>las relaciones sociales por eso por eso<br>yo soy de los que pienso que tener un<br>modelo del mundo es importante y los<br>modelos de lenguaje los lm son modelos<br>de no son no tienen un modelo del mundo<br>e y eso no soy el único que lo dice eh<br>de mis hasis también dice que que es es<br>importante un modelo de el mundo para<br>que una artificial se aproxim su su su<br>su comprensión en cuanto a la semántica<br>del nacional al significado se aproxime<br>a la nuestra hace falta un cuerpo y<br>también lo dice yarne Kun entre otros no<br>otros no otros no eh aquí no hay no hay<br>no hay una opinión unánime no no no Y<br>eso es lo curioso de todo esto hablando<br>de otros de modelo del mundo comentaba<br>ahora fe fe por ejemplo que ha creado<br>una empresa propia enfocada a eso es<br>decir hay mucha gente muy lista<br>trabajando en<br>eso ahora que no sé por qué se inventan<br>nombre nuevo pero en fin qué podamos a<br>hacer en la guía física físic se<br>refieren a eso al robot es darle un<br>cuerpo y cuál es el cuerpo digamos<br>más obvio para dar a una Inteligencia<br>artificial Pues un cuerpo robótico no Y<br>si es humanoide mejor porque Cuanto más<br>similar<br>tengas cuando el sistema multisensorial<br>de un robot Cuanto más se acerca que con<br>todas sus enormes diferencias eh al al<br>sistema multisensorial de humano<br>biológico pues quizás más posibilidades<br>tienes de que comprenda el mundo de una<br>manera más o menos cercana a la como lo<br>comprendemos nosotros cuidado eh estoy<br>diciendo cosas muy bastante especulando<br>Un poco aquí todavía eh Pero en fin por<br>la cosa cre que va por ahí la si la ía<br>no es inteligente la ía generativa es<br>una revolución real o es puro mar que<br>nos lo han colado a todos no a ver yo<br>creo a ver la palabra Revolución hay que<br>cogerla con pinzas eh yo creo que es muy<br>pronto para hablar de revolución eh Ya<br>dentro dentro de unos cuantos años o<br>bastantes años mirando para atrás ya<br>veremos si aquello realmente fue una<br>Revolución yo cuando se compara la<br>Inteligencia artificial con la<br>electricidad se me ponen un poco los<br>pelos de punta porque la gente que dice<br>esto realmente se ha dado cuenta ha<br>hecho una revisión histórica de la<br>importancia que tuvo la<br>electricidad por favor eh o hay quien<br>dice que lo compara con la invención de<br>la rueda y no sé qué Yo creo que aquí<br>hay detrás intereses un poco así no muy<br>claros de sobre prto son gente de de<br>bigtech de grandes empresas que hablan<br>en estos términos tan exagerados ya<br>veremos ya veremos la generativa será o<br>no una Revolución En mi opinión le falta<br>muchos ingredientes para ser considerada<br>una revolución de hecho tiene de hecho<br>estamos tocando techo aquello el entorno<br>de inversiones no se ve el roi no se ve<br>por ninguna parte y es y también se está<br>se está viendo que la ley de los disminu<br>returns los retornos que disminuyen se<br>están viendo también es decir tú vas del<br>del gpt 4 al 4o y del 4o al 45 que ahora<br>que tenía que ser el cinco pero parece<br>que lo han rebajado porque parece que la<br>cosa el cinco ya veremos qué pasará no<br>es estos están están aumentando<br>escalando los<br>modelos aplicando por por tres órdenes<br>de magnitud el número de parámetros<br>pesos de las conexiones si<br>quieres de las de las de las redes<br>neuronales y y el coste además el coste<br>económico brutal y no compensa los<br>pequeñísimos incrementos de de de<br>accuracy o sea de de de resultados que<br>obtienen con con con benchmarks no<br>Entonces está viendo que aquí hay hay<br>hay como una asíntota no O sea no<br>estamos subiendo así en nivel en niv a<br>nivel de los resultados que dan estos<br>modelos de lenguaje eso se lo de los<br>retornos que disminuyen no yo creo que<br>Ah Es algo que pasa mucho con los que<br>venís de hace mucho tiempo en trabajando<br>en esto no habéis vivido los inviernos<br>de la<br>ía un punto de vista mucho más formado<br>que los que venimos desde hace poco yo<br>descubrí Inteligencia artificial hace<br>dos años e lo que yo sí que veo es que<br>en mi día a día sí que está viendo un<br>retorno de inversión increíble no solo<br>yo sino las empresas en las que forma<br>para utilizar Inteligencia artificial Yo<br>no he visto ni soy consciente que haya<br>existido nunca nunca eh en la historia<br>de la moderna de de la empresa algo tan<br>barato que te puede aportar alrededor de<br>un 20% de productividad en tu fuerza<br>laboral o sea de dónde sacas esta cifra<br>de 20% de los proyectos que yo implanto<br>en empresas tú mismo yo mismo tú lo lo<br>has evaluado bien todo lo bien que<br>sabemos evaluarlo un contexto amplio de<br>consecuencias a largo plazo etcétera cl<br>a largo plazo tanto plazo como tenemos<br>si miras el artículo de daren moglu El<br>último primio nivel de economía eh que<br>sobre la la micro la economía de Simple<br>Cómo es la simple microeconomía la<br>Inteligencia artificial ahí Bueno es es<br>increíble este artículo es muy<br>recomendable como se está midiendo mal<br>el concepto de productividad él está le<br>salen del orden de 0,6 por anual la el<br>aumento en productividad como mucho a lo<br>en estos de ahora 10 años<br>par parece que es que no no sí sí esto<br>es una de las grandes cosas de la<br>ciencia si tienes una opinión<br>encontraras un estudio que la respalde<br>si miras el estudio de brookings metro<br>demuestran que en 80 tipos de de<br>trabajos hay del orden de 46 por de tus<br>tareas que puedes hacer en la mitad de<br>tiempo gracias a la ia Y eso es lo que<br>vemos la mayoría de los que estamos<br>implantando en un ejemplo muy claro<br>nosotros tradicionalmente teníamos una<br>reunión online Y esa reunión online<br>había que hacer Pues un levantamiento de<br>acta un resumen y eso me costaba 40<br>minutos ahora ticamente lo hace una de<br>mis deligencias artificiales Que al<br>momento manda ese correo electrónico con<br>ese resume me he ahorrado literalmente<br>40 minutos de trab cuánto tiempo tardas<br>después revisándolo eventualmente<br>corrigiendo es todo perfecto de entrada<br>perfecto al 100% no son todas las actas<br>prácticamente iguales<br>problema actas Sí es que las actas<br>normalmente son todas iguales en todas<br>las reuniones al final es un trabajo muy<br>mecánico lo que sí que estoy de acuerdo<br>es que no vale para todo pero lo que sí<br>que vemos de una forma muy muy directa<br>es que el retorno en ciertas cosas y ahí<br>es donde cre que realmente tenemos que<br>encontrar un cieros nichos puede veo que<br>pero por ejemplo se está viendo un<br>fracaso en en codificar en programación<br>se está viendo un fracaso pero terrible<br>o sea hace 4 días no hace mucho salió<br>dónde en<br>Ah Yo leo normalmente W Technology New<br>York Times Washington<br>post Bueno aparte de otras cosas que que<br>me llegan que no son tan medios de<br>comunicación tan sí tan importantes y<br>bueno goldman sacks hizo un estudio eh<br>la famosa este ha cu<br>4404 que tiene el nombre del error<br>típico ese eh que seguramente la conoces<br>y está pero lleno de de de opiniones de<br>de ceos y sitios más bien ctos de<br>empresas que diciendo que que no que los<br>los programadores muy mediocres pueden<br>tener algo pueden sacar algo de<br>ventaja ven una bañ añadido en copilot y<br>similares no pero que generalmente<br>Generalmente No yo mismo lo he probado y<br>no y no y mucha gente sin tener ni<br>puñetera de programar evidentemente me<br>da una herramienta que pueda hacer cosas<br>como hace poco hemos una herramienta<br>para los públicos que está pues al<br>alcance de todo el mundo y la hemos<br>podido hacer A través de un lm de cl en<br>este caso a través de horizons de<br>hostinger y sin ningún<br>conocimiento previo puedo hacer cosas<br>que antes no podía hacer de todos modos<br>yo creo que lo bajamos ahí porque es un<br>mercado interesante complicado porque<br>unos problemas que hay en esto es elbing<br>cuando hay un Back es mucho más<br>complicado de identificarlo si lo ha<br>hecho si lo ha generado la cantidad de<br>fallos de seguriad que indiscutible no<br>es código perfecto no es código perfecto<br>estoy de acuerdo pero si tenemos en<br>cuenta que hace un año que hace un año<br>apenas podía hacer una función básica<br>creo que la evolución que ha habido es<br>sustancial pero a este nivel Sí pero<br>vamos a llevarlo Entonces al nivel<br>práctico pragmático económico es decir<br>tenemos a ji al coo de Amazon diciendo<br>que se han ahorrado 4500 años de<br>programador en actualizaciones de Java<br>en las aplicaciones de Amazon crees que<br>este hombre tiene intereses para decir<br>eso por el hecho de que tiene Amazon que<br>para venderlo Espero que estés<br>disfrutando de esta charla este podcast<br>está patrocinado por hostinger hostinger<br>básicamente lo que ofrece son servicios<br>de alojamiento para páginas web y y es<br>un servicio espectacular Si te vienes a<br>la dirección que te he puesto en la<br>descripción podrás ver cómo te puedes<br>crear una página web desde 2,59 al mes y<br>además te van a regalar tres meses si<br>quieres elegir este plan además Tienes<br>otra opción que es tener el plan de ia<br>que es un plan que te recomiendo<br>absolutamente en que tendrás un montón<br>de herramientas para generar tu página<br>web asistido por Inteligencia artificial<br>no solo eso hostinger Tiene muchos otros<br>beneficios como que te incluye El<br>dominio que normalmente se paga a parte<br>tienes email gratis 150 plantillas y un<br>montón de soporte tienes 247 cuando lo<br>necesites la verdad es que hostinger es<br>un Hosting que está muy bien y que la<br>gente está muy contenta con ello pero es<br>que además si aplicas nuestro cupón John<br>ea podrás tener un descuento adicional<br>para ello Solo tienes que Añadir al<br>carrito Y a partir de ahí elegir las<br>mensualidades es decir cuántos meses<br>quieres pagar de golpe evidentemente<br>Cuantos más meses pagues más te baja el<br>precio pero a partir de 12 meses ya<br>tienes un precio muy interesante Para<br>aprovechar el descuento adicional que te<br>digo Solo tienes que bajar hasta aquí<br>abajo en la parte de pago y donde pone<br>el cupón introducir John ia y con eso le<br>das a y te bajará un poquito más el<br>precio con lo cual conseguirás un precio<br>aún más atractivo una vez comprado el<br>acceso podrás ver cómo hacer tu página<br>web es un momento la puedes hacer con<br>Inteligencia artificial y la puedes<br>editar de forma muy sencilla arrastrando<br>directamente las cosas arriba y abajo<br>podiendo cambiar las cosas y se van a<br>ver bien tanto en ordenador como en<br>teléfono móvil porque hostinger se ocupa<br>de que queden a la perfección además<br>tienes aquí un chatbot que es muy útil<br>es como tener chat gpt que sabe Mucho de<br>crear webs con hostinger y con lo cual<br>cualquier duda que tengas te la va a<br>resolver de forma directa Además de eso<br>como como te decía tienes las<br>herramientas si has comprado el paquete<br>de 399 que te permiten hacer un montón<br>de funciones desde escribir blog po con<br>Inteligencia artificial crear páginas<br>enteras dentro de tu misma página web<br>Como por ejemplo la página de contacto<br>etcétera y que lo haga la ia por ti o<br>generar directamente artículos de Blog<br>para poder hacer inbound marketing En<br>definitiva si lo que quieres es una<br>buena página web y quieres utilizar<br>Inteligencia artificial para asistirte<br>con ella hostinger es la mejor opción<br>tienes abajo el link en la descripción y<br>no te olvides de aplicar el código John<br>ia seguimos con el podcast<br>yo Cuando leo ciertos titulares yo he<br>llegado a un momento en que esty de un<br>escepticismo brutal ya no me creo ni la<br>mitad de lo que Leo eh Y cuando veo<br>vídeo estos robots haciendo virguerías<br>cuidado si no hay cgi detrás eh Hasta<br>qué punto hay cgi pero eso es casi<br>conspiranoico es decir estamos diciendo<br>que el ceo de Amazon está mintiendo Ya<br>viste ya viste ya viste la demostración<br>aquella del Optimus de elon Master el<br>robot humanoide que detrás de la cortina<br>que el<br>que detrás laav era una marioneta pero<br>no dijeron en ningún momento marioneta<br>Sí sí literalmente está controlado por<br>remoto y la voz era a través de un<br>humano per y Aparentemente Aparentemente<br>cuando seo Este vídeo parecía que que<br>aquero era autónomo eh dijo pero nadie<br>dijo nadie dijo que fuese autónomo pero<br>nadie dijo que fuera que que hubiera<br>marioneta y tal Entonces se basan en el<br>hecho de que el espectador la persona<br>que ve ese vídeo lo primero que pensar<br>es que aquí los autónomos estoy<br>convencido Sí sí estoy<br>convencido pensamos que aquello no podía<br>ser yo creo que muchos más que cuatro<br>pensamos que eso no podía ser y loamos<br>hecho recuerdo un vídeo en el que yo<br>comentaba que es tenía que ser remoto<br>seguro pero entonces porque creo que es<br>una diferencia muy importante en el<br>momento en que alguien miente que el<br>momento en que alguien opia información<br>y deja libre albedrío de cada uno que<br>interprete no porque al final tú lo que<br>estás haciendo yon Mask es bien conocido<br>por el show business y con lo cual é lo<br>que está haciendo Es simplemente<br>poniendo ese show y intentando hacer que<br>el show sea lo más atractivo posible<br>eso ha o no de forma Autónoma que no<br>tiene por ser no De hecho hay varias<br>varios vídeos de ese evento de tesla en<br>el que le preguntan al robot y el robot<br>mismo contesta Que está siendo<br>teleoperado O sea que no creo que<br>hubiese una intención de engañar Aunque<br>sí que puede ser que en el montaje la<br>intención fuese sorprender el vídeo que<br>fue viral estoy de<br>acuerdo pero la diferencia importante<br>para mí es cuando tú tienes por ejemplo<br>volviendo al caso de la programación<br>aasi que dice literalmente nos hemos<br>ahorrado 4500 años de programado<br>millon bueno pue ser<br>que puede ser que sea cierto pero pero<br>no tengo la seguridad qué interés pueden<br>tener esta gente económico cuál vender<br>masía claro vender masía están metidos<br>en all todos estos viven de la bueno o<br>pretenden Por qué hablan Dead<br>general en el 26 o el 27 o antes Por qué<br>tienen que decir que la general ya<br>estará resuelta es falso completamente<br>esto eh por qué lo dicen porque quieren<br>que cada vez necesitan más inversores y<br>a un inversor si le dices Mira sabes qué<br>esto no ya hemos tocado techo Esto no es<br>el camino hacia general que es lo que<br>dice yan lekun yabis que no es el camino<br>es una ramp off es una off ramp se que<br>al contrario nos aleja los modos de<br>lenguaje me refiero eh la guía<br>generativa claro qué van a decir qué van<br>a decir que que la guía generativa no<br>nos conduce la interactividad al general<br>no por lo contrario van a decir que sí<br>para tener pues necesitan inversiones<br>pero astronómicas necesitan para seguir<br>para seguir subsistiendo Open no no gana<br>dinero no gana dinero eh o sea ya lo<br>sabemos que está perdiendo mucho dinero<br>eh Y cómo es que no se hunde pero De<br>hecho no solo pierde dinero sino a los<br>inversores les ha dicho que va a perder<br>dinero hasta 2029 a partir pero con la<br>promesa de que luego va a ser la p bueno<br>va a ser la leche o sea que va van a ver<br>van a tener unos retornos de inversión<br>multiplicados por 1000 yo que sé o<br>cualquier cosa que digan es igual no sé<br>Entonces el hecho del Ai vamos a<br>definirlo rápidamente para que la gente<br>sepa Cómo defines<br>Ai la intelcia general la general para<br>mí es la multitarea pero es O sea la<br>definición la definición que samman por<br>ejemplo pone en la mesa es una<br>Inteligencia artificial capaz de hacer<br>el trabajo productivo de la humanidad no<br>No esas definiciones más económicas y<br>tal aquo que decía será cuando ganemos<br>un trillón de dólares es bast es<br>bastante absurdo como definición no para<br>m artificial multitarea que es capaz de<br>hacer bien No necesariamente mucho mejor<br>que que el mejor de los humanos sino es<br>que resolver bien una enorme cantidad<br>una amplia<br>variedad tareas distintas yo para m esto<br>es la general que no tiene nada que ver<br>con la fuer Bueno pero esto co Pero esto<br>coincide mucho con la de Sam alman el<br>hecho de que tú dices una Inteligencia<br>artificial que puede hacer bien una<br>amplia gama de sería una Inteligencia<br>artificial que puede hacer el trabajo<br>productivo de la pero no lo digo con el<br>trabajo productivo no buo cosas al fin<br>al cabo para traerlo a la mesa bajar la<br>tierra que la gente no se entienda es<br>una guía que puede hacer lo que yo puedo<br>hacer Y a partir de ahí al menos en un<br>Rango no todo sin no todao una amplia<br>gama de de actividades de actividades<br>que pueda hacer una persona eh yo tengo<br>dudas de que eso sea posible a dos años<br>vista como dicen<br>estos para que la gente lo entienda<br>viendo el estado del arte Sam alman<br>Dario am elon musk e me atrevería a<br>decir que algunos más están hablando de<br>que antes de 2030 podemos tener di<br>kinton benio techmark hassabis ha dicho<br>2030 O sea que tampoco estamos tan lejos<br>de ese dato Ah Per pasando por un cuerpo<br>por otro camino Sí sí O sea otra Cos que<br>no un c generativa pura y dura es que yo<br>distingo esto eh cuidado sus kever<br>también ha dicho que de hecho sus kever<br>ha admitido que la Ai ya está en Rango y<br>que con lo cual él se va por la<br>superinteligencia directamente porque Ai<br>ya es algo que ya hemos pasado para que<br>nos entendamos no Entonces ha hay muchos<br>nombres muy muy muy potentes que definen<br>bueno potentes depende de que<br>consideremos potente pero bueno en fin<br>[ __ ] pero potentes no consideras no<br>consideras que nombres potentes pueden<br>ser sus kever Eh sí en el mundo del<br>business son muy potentes es verdad sí<br>vale en el mundo del business entonces<br>en el mundo científico no tienes respeto<br>Por eso pero no no no mucho<br>Hinton mucho Hinton sí a pesar de de que<br>de que a dice cosas absurdas como dijo<br>lo de los radiólogos eh Ya sabéis esta<br>famosa frase de que no aconsejó a las<br>universidades americanas facultades de<br>medicina que dejaran de formar<br>radiólogos Y eso lo hizo hace 5 o 6 años<br>ya porque en cuestión de poco de dos o<br>TR años ya no habrían falta radiólogos<br>correcto se equiv con en el timing pero<br>no estamos lejos de esa posición ahora<br>no no no no se se equivocó completamente<br>Dentro de 20 años hablar de ad diólogo<br>segur O sea que lo sabrá algunos no<br>tengo duda Pero a día de hoy a día de<br>hoy se puede detectar hoy mismo hemos<br>lanzado una noticia de que una<br>Inteligencia artificial un modelo<br>detecta el cáncer en células de un tipo<br>de cáncer específico con un 99% mientras<br>los humanos conseguimos un 70 y pic<br>hecho con qué en con datos reales ya<br>desplegado o con con con con en el es<br>que<br>cuidado hay una cosa muy importante la<br>in artificial tiene lo que llaman el<br>measurement problem el measurement<br>problem es que hay contaminación de<br>datos o Data leakage que en el conjunto<br>de<br>entrenamiento hay una máxima en Machine<br>learning que dice no hagas test con<br>training Data y eso no se respeta en la<br>generativa vale o sea por eso con las<br>pruebas contrafactuales se demuestra<br>enseguida que cuando la probabilidad de<br>que lo que le preguntas no haya formado<br>parte con su respuesta no haya formado<br>parte ya del conjunto de entrenamiento<br>con esas probilidad es muy baja colapsan<br>completamente la<br>curas tienes el ejemplo este de las<br>famosas aperturas de ajedrez no el<br>trabajo de rauan B Pati y gente del m y<br>hicieron Bueno le muestran a y lo<br>hicieron con no sé cuántos modos de<br>lenguaje 4o y muchos más llama clot en<br>fin un montón de dieron Bueno vamos a<br>ver tienes la siguiente apertura<br>eh e4 eh E5 o sea el movimiento de<br>peones luego el alfil se mueve de eh de<br>E5 a F4 y luego otro el alfil negro se<br>mueve también en diagonal dice si todos<br>los movimientos son legales la apertura<br>Es legal cuando las aperturas eh los que<br>los ejemplos que le da están basadas en<br>que la posición de todas las fichas en<br>el ajedrez todas las piezas es la<br>correcta entonces tiene un 90 y tantos<br>por de acierto es decir que ya es raro<br>que no sea el 100% Pues solo no hay que<br>saber jugar alr solo hay que saber que<br>el alfil se mueve en diagonal que la<br>Torre se mueve solamente en vertical o<br>horizontal y hay seis piezas distintas<br>de seis tipos seis memorizar seis<br>movimientos distintos No no es no es<br>gran no es complicado verdad Bueno ahí<br>ya ahí ya no llega al 100% lo cual dices<br>Mm qué raro pero luego<br>el contrafactual el contrafactual<br>consiste permutas la posición del<br>caballo con el alfil los dos caballos<br>los dos caballos los dos alfiles tanto<br>en blancas como en negras Y se repite la<br>apertura al repetir la apertura con con<br>las piezas cambiadas el caballo se mueve<br>como un alfil porque el caballo hace el<br>movimiento que antes hacía el alfil los<br>caballos se mueven como<br>alfiles entonces ahí sabes qu ocurre ent<br>de acierto colapsa a echar la moneda al<br>aire 54 porque tú hay dos posibles<br>respuestas sí o no te muestras una<br>apertura el sistema artificial tiene que<br>decir sí o no lo hicieron con centrales<br>de aperturas no pero cuando habías<br>cambiado esas posiciones Por qué baja<br>del 95 al<br>54 el acierto Pues por qué no está<br>entrenado en no había en el conjunto de<br>entrenamiento no había Y si había alguna<br>quizás pero no había millones de<br>ejemplos de tableros o sea de juegas<br>jugadas de ajedrez en donde se hubiera<br>cambiado el alfil con el cabal ent Esto<br>para mí es definitivo de que<br>regurgitan y no razonan O sea si si<br>mamente comprendiera y razona al modelo<br>lenguaje no le hubiera costado nada<br>razonar y hombre el caballo se mu muy en<br>diagonal este caballo No no ha hecho el<br>salto del caballo correcto y el otro<br>caballo negro hace un movimiento enorme<br>casi atraviesa medio tablero en diagonal<br>a ver cómo es que hay baja de se tiene<br>un un acierto prácticamente aleatorio Yo<br>estoy de acuerdo Yo estoy de acuerdo que<br>hay cosas muy difíciles de explicar en<br>Inteligencia artificial y con eso<br>Estarás de acuerdo conmigo explica esa<br>es fácil de explic esa es fácil de<br>explicar probablemente pero estamos de<br>acuerdo en que vemos cosas que la<br>Inteligencia artificial es capaz de<br>hacer que son tremendamente complejas<br>para nosotros y que para la ía son muy<br>sencillas y vemos cosas que para<br>nosotros son tremendamente compleas fáil<br>y que para le son muy complejas como la<br>kgi no este Test en que nos dan unos<br>patrones y nos dicen vale en base a lo<br>que ha pasado en estos patrones<br>resuelven este otro problema pero esto<br>que comentas de la ajedrez por ejemplo<br>por por cualquier otra cosa del hecho de<br>que la ía tenga que tener en su<br>entrenamiento ejemplos de lo que va a<br>visualizar es lo que en los humanos<br>llamamos experiencia y cuando<br>experiencia yo cuando resuelvo un<br>problema que resuelto varias veces antes<br>soy mucho mejor resolviéndolo cierto y<br>laa a día de hoy Aún no llega eso en<br>ciertos casos muy sencillos porque estoy<br>completamente convencido y lo pueden<br>probar los que nos están viendo que si<br>le mandan una imagen de ambas cosas a<br>chat gpt chat gpt sea capaz de discernir<br>que se ha movido el caballo de sitio y<br>con lo cual la consecuencia que eso<br>tiene en términos bueno en este artículo<br>que cuando probaron con esos modelos de<br>lenguaje ninguno de ellos sí lo que te<br>quier decir es que muchas veces también<br>el otro día el otro día también yo había<br>un artículo concreto sobre una prueba y<br>están hablando de temas haciendo<br>utilizando modelos de 2023 evidentemente<br>todo esto va cambiando y vamos<br>evolucionando eh yo no creo que la<br>Inteligencia artificial a día de hoy sea<br>perfecta ni mucho menos no a ver lo que<br>está claro es que ningún modelo de<br>lenguaje razona eso está claro ni<br>comprende el lenguaje tengo mis dudas ni<br>comprende el lenguaje eh en absoluto o<br>sea esto está Yo creo que en el mundo en<br>el mundo de académico la intercial por<br>lo menos hay muy pocas dudas de esto así<br>cambio En cambio no es así en cambio hay<br>una división enorme entre probablemente<br>Jan le kunun es la cabeza más visible de<br>de la filosofía de que no razona<br>contrafactuales para decir que que losos<br>lenguaje no razonan Pero en cambio por<br>otro lado tenemos a gente como Hinton<br>que ha dicho la famosa frase de si el<br>resultado es parecido a un razonamiento<br>igual Es que esto razona sobre todo<br>cuando es una caja negra que no<br>entendemos muy bien por dentro pero<br>cuidado cuidado cuidado dime dime es que<br>Qué es razonar de nuevo es que estamos<br>en lo mismo estamos en lo mismo otra vez<br>no si si el concepto de razonar es el<br>que tenemos los es como con con la<br>inteligencia No si est cuando hablamos<br>de razonar estamos y yo creo que<br>implícitamente es así el el razonamiento<br>humano un lm no razona y los mismos que<br>dicen que razona dicen los chin of<br>thought el cot dicen que es gracias al<br>cot equivalen equiparan el cot con el<br>razonar mm yo para mí yo que he<br>trabajado tengo un libro que se llama<br>modelos de razonamiento aproximado<br>publicado en el 90 eh aproximo models y<br>bueno el mundo de inteligente artificial<br>está realmente los modelos<br>convencionales de razonamiento no tienen<br>nada que ver con el Shin of thought eh Y<br>las cosas que hacen los modelos de<br>Entonces explícame la diferencia entre<br>que yo razone un proceso para entender<br>que si empujo esta mesa este vaso se<br>puede caer y que yo le pregunte a chat<br>gpt que fue una cosa muy famosa que hizo<br>Jan le Kun en el que si yo empujo la<br>mesa y él me diga que esto se va a caer<br>esto es una cosa que<br>pasó depende laelo<br>esteto teng Este creo es unio pero<br>aparte de esto él dijo en su momento<br>hace un año y medio aproximadamente que<br>chat gpt nunca podría predecir lo que<br>pasaría con este vaso cuando empuj la<br>mesa No porque no podía porque es cuando<br>se hablaba deon<br>reasoning conocimiento sentido común Sí<br>porque resulta que por ejemplo los el<br>test sobre cono sentido común que hctor<br>leves propuso no de el trofeo No cabe en<br>el cajón porque es demasiado grande el<br>trofeo No cabe en el cajón porque es<br>demasiado pequeño entonces saber que es<br>que es grande y que es pequeño eso ahora<br>por qué lo responde bien la Inteligencia<br>artificial por qué porque hemos dicho<br>antes por el Data contamination porque<br>todas las preguntas estas Todas están ya<br>en el conjunto de entrenamiento entonces<br>lo que hace simplemente es Reproducir lo<br>que ya está allí pero no razona en el<br>sentido de si tú le bueno lo de la las<br>aperturas de G es un ejemplo claro a la<br>que no tiene la solución del mismo<br>problema o un problema casi idéntico<br>colapsa colapsa el artículo este de<br>campat y Compañía piensa que no lo no no<br>lo hace solamente con aperturas de<br>ajedrez hay del orden de una docena o<br>más de de otros contrafactuales que le<br>Man ellos fuera del dominio de la<br>ajedrez y en todos colapsan en todos<br>colapsan y este es un artículo de hace<br>esta semana meses esta semana se ha<br>publicado una noticia sobre una<br>universidad de Inglaterra que de hecho<br>creo que el director del proyecto es<br>español José panadés Si no recuerdo mal<br>el nombre e en el que ellos llevan 10<br>años trabajando sobre un ensayo en base<br>a como los supervirus desarrollan<br>resistencia a los antibióticos y les ha<br>llevado 10 años llegar a las<br>conclusiones que han desarrollado que<br>publicaron en febrero lo siguiente que<br>hicieron es que les dieron acceso a<br>Google Cos scientist que es un agente in<br>lo conozco en dos días llegó a las<br>mismas conclusiones y esta gente el<br>equipo de José decidieron que esto era<br>no podía ser y que tenía que tener Data<br>contamination con lo cual llamaron a<br>Google y les preguntaron Oye puede ser<br>que tengáis esto y les dijeron que coses<br>había sido entrenado con un corte<br>anterior a la publicación de su<br>información y que con lo cual no había<br>forma de que pudiese haber llegado a eso<br>y en cambio la Inteligencia artificial<br>ha llegado a eso yo el otro día tuve<br>aquí Hace unos podía ser Pero lo dudo<br>habría que verlo no no entiendo entiendo<br>tu escepticismo pero el tema es que no<br>paramos de ver más y más ejemplos en la<br>dirección contraria ahora a mí lo que me<br>interesa es ver no no ejemplos y<br>ejemplos que demuestran que no razona y<br>que no comprende hay millones también o<br>sea hay muchísimos Sí hay de los dos<br>lados por eso por eso a lo que voy que<br>que hay una división de opiniones en la<br>comunidad científica el otro día ya te<br>digo en este mismo podcast teníamos buen<br>la científica de Inteligencia artificial<br>menos Ahí estamos hablando de biólogos<br>que usan la Inteligencia artificial que<br>no son no son expertos en Inteligencia<br>artificial son expertos usuarios<br>que es muy distinto pero habla con la<br>comunidad científica que trabaja<br>realmente Investiga la Inteligencia<br>artificial pura y dura y ya verás que el<br>porcentaje de los que te dicen que la<br>Inteligencia artificial generativa<br>razona y<br>comprende es insignificante<br>insignificante insignificante Por qué<br>tien tant Igual igual hay un no sé 1% no<br>sé 1% digo yo no no a<br>ver lanzas un dato al aire pero pero no<br>me sorprende muchísimo porque yo lo veía<br>más como<br>dónde lo ha sacado el 50% lo que nos<br>llega a la mayoría de los mortales en el<br>en el último hky de que es el gran<br>congreso judicial hubo varios debates<br>besas redondas y bueno era clarísimo en<br>el congreso artificial de Santiago de<br>Compostela del verano pasado obiamente<br>estuve por allí estaba clarísimo éramos<br>allí Pues no sé 100 personas el Dely hay<br>del orden de 4000 5000 asistentes y buo<br>bueno en fin yo pensa que yo conozco a<br>cientos y cientos de personas enal<br>después de 60 años casi<br>no poro que tengo tengo una una muestra<br>muy representativa de grandes pero no<br>conozco Tom<br>ditr gente de los grandes lal y bueno la<br>coincidencia es absoluta de<br>que he dicho el 1% Como podía haber<br>dicho el 10 Entiéndeme no pero que es<br>bastante la<br>opinión en el mundo académico que<br>Investiga en Inteligencia artificial no<br>que la USA sino que la desarrolla de que<br>loses modos de lenguaje ni comprenden ni<br>razonan o sea esto bueno está clarísimo<br>que a mí me sorprende mucho<br>evidentemente porque claro obviamente y<br>ahí es donde quiero morir eh que vemos<br>nombres como evidentemente y repetiremos<br>Hinton vemos nombres como benio vemos<br>nombres como techmark vemos nombres como<br>sus vemos Sí pero son para mí esos son<br>nombres sospechosos y es mi opinión no<br>no no perfecto y quiero que expliques<br>Por qué son sospechos puedo decir Tom<br>mitchell Tom ditrich Toby walsh por eso<br>por eso yo lo veo como un 5050 por eso<br>por eso yo lo veo como un 5050 con dos<br>cabezas que es J le y Hinton no pero son<br>también que son también<br>eh papa popes de la Inteligencia<br>artificial a nivel mundial pero vamos<br>vamos a bajar ahí por son sospechosos<br>Hinton bueno porque tien sus intereses<br>pero Hinton Y benching qué intereses<br>tienen est<br>gole s que salió de Google Pero<br>bueno bueno los otros los otros<br>claramente tienen todos intereses<br>clarísimos benjo nunca ha trabajado para<br>ninguna empresa bueno benjo está está<br>también vinculado no con empresa no<br>siempre con universidades propias y es<br>el único el único de los nomes Quiz es<br>la persona que más me ha sorprendido a<br>mí de de leer sus opiniones sobre la<br>intelig artificial digo una persona con<br>de ese nivel me ha sorprendido que diga<br>lo que diga que diga lo que dice<br>sobre sobre la capacidad de Intel tmar<br>que tampoco me consta que esté ninguna<br>tecnologica Max techmar del no es<br>especialista la Inteligencia artificial<br>es un físico físico teórico eh Y una de<br>las cosas que es totalmente en ellos y<br>aquí voy a cambiar de tema porque quería<br>comentarte un tema pero luego lo metimos<br>pero una una cosa común en todos estos<br>perfiles que evidentemente a la vez que<br>razonan o sea que defienden que la<br>Inteligencia artificial sí razona Y sí<br>tiene inteligencia Y con Hinton podemos<br>ir un paso Más allá de que ha dicho<br>públicamente que incluso tiene signos de<br>consciencia eh en en una cosa muy común<br>en estos perfiles es que son los mismos<br>que hablan de los peligros de la<br>Inteligencia artificial qué opinas de<br>los peligros de intelcia van las dos<br>cosas de la mano Es decir fíjate hablan<br>de de son los los<br>apocalípticos los largo terminas que se<br>llam no los long termism Future of Life<br>institute bueno la el que le cerraron<br>Nick bostrom que le cerraron que ya<br>sabes le encerraron le echaron de Oxford<br>le encerraron el Instituto a Nick<br>bostrom eso estos Que bueno que la in<br>artificial podrá la humanidad porque<br>claro tendrá conciencia de sí misma y<br>tendrá iniciativa y objetivos propios y<br>verá que nosotros sobr que somos un<br>obstáculo para el mundo son A ver es tan<br>estúpida estea<br>razonamiento los humanos son obstáculo<br>para que el mundo vaya bien noss tenemos<br>que<br>cargar el risco<br>asisten por favor pero te estás oyendo<br>lo que estás diciendo no es como para es<br>para decirles a estos señores que que<br>que se lo que se lo milen un poquito no<br>quizá a lo mejor tendrían que ir algún<br>psiquiatra también no eh soy muy duro<br>con esta gente porque sí a ver a ver el<br>problema es eso es un red hering en<br>inglés una cortina de humo para que no<br>se hable de los peligros reales y uno de<br>los peligros reales Es que la in<br>artificial está en manos de media docena<br>de grandes empresas tecnológicas Ese es<br>el prigo número uno y lo estamos viendo<br>en Estados Unidos con la influencia que<br>están Rendo<br>y la buena sintonía con Donald Trump<br>fíjate todos Rendo rindiendo pleitas<br>pleitesía a este psicópata delincuente<br>convicto porque es lo que es es un<br>delincuente convicto eh con eso lo puedo<br>decir tranquilamente sin ningún riesgo<br>ha sido publicado que es un delincuente<br>convicto Donald Trump verdad ha sido<br>condenado Estos son estos son En mi<br>opinión tecnas y lo que tien estas todas<br>estas grandes empresas teoricas detrás<br>están ahora<br>Pues no sé Rendo de pleitesía Por qué<br>Porque ven ven que pueden sacar<br>beneficios económicos Trump se está<br>frotando las manos con el tema de de ir<br>a Marte porque ahí ve ahí ve<br>subvenciones del Estado no negocio No<br>porque sea un gran businessman que va a<br>hacer negocio eh el elon Mask elon Mask<br>ve ahí ve ahí cientos de miles de<br>millones de dólares de subvenciones de<br>Estados Unidos para poner a un<br>norteamericano Por cierto<br>blanco blanco y de género masculino en<br>el en Marte Y eso lo habrás leído<br>últimamente en la hora la NASA aquel<br>programa que había de de sobre<br>diversidad de<br>astronautas no blancos y mujeres lo han<br>cancelado todos los programas de di han<br>sido canc esto esto forma parte de<br>estas les interesa todo decir decir que<br>que es un peligro la Inteligencia<br>artificial y decir pero cuidado no os<br>preocupéis nosotros como somos chicos<br>buenos lo vamos a<br>solucionar y lo que quieren lo que<br>quieren es o que no se regule o se<br>regule como les interesa a ellos por<br>supuesto No tengo la menor duda cuando<br>hablamos de los ceos de las grandes<br>[Música]<br>y su responsabilidad fidia es<br>evidentemente conseguir que sus empresas<br>ganen el máximo de dinero con lo cual<br>está claro que ahí hay unos intereses<br>hay unos lobis no hay la menor duda o<br>sea ni la menor duda Pero en cambio<br>cuando lo bajas a tierra te das cuenta<br>de que Microsoft está perdiendo dinero<br>con la Inteligencia artificial de que<br>samman está perdiendo dinero con la<br>Inteligencia artificial<br>Entonces cuál es el beneficio decir que<br>esto se nos puede ir de las manos porque<br>desde luego lo único que hace es generar<br>resistencia humana Por qué alguien como<br>Google como sundar pichai dice<br>públicamente que la Inteligencia<br>artificial podría ser un peligro para la<br>humanidad se nos podría ir de las manos<br>por qué lo dice deis hasis mira yo voy a<br>hacer la pregunta que se hay que hacer a<br>estas personas que dicen esto Si de<br>verdad lo creéis si de verdad lo creéis<br>pero profundamente de verdad lo<br>creéis<br>parad bueno Esto se lo pregunt hombre es<br>es sentido común Esto se lo preguntaron<br>a sundar pichai y Su respuesta fue que<br>tiene un no pero es que no es tan fácil<br>no es tan có que no es tan fácil no<br>porque porque no es tan sencillo Porque<br>tú cuando estás como co de una empresa<br>tienes una responsabilidad fuar y podes<br>ir la cárcel si paras lente porque pares<br>una l una línea de una línea de<br>desarrollo claro por supuesto porque va<br>en contra de los intereses de la empresa<br>Cómo por qué Porque lo va porque el<br>objetivo de un ceo una empresa es que<br>sus accionistas ganen dinero y tienen<br>una responsabilidad ahí que no pueden no<br>cumplir pueden dimitir aunque aunque eso<br>ponga en peligro la existencia de la<br>humanidad su responsabilidad legal es<br>esa no proteger al mundo pero él puede<br>dimitir é puede dimitir s que el sistema<br>es una [ __ ] que el sistema una [ __ ]<br>tenemos menor Pero esto mismo esto mismo<br>se le preguntaron a sundar pichay y él<br>dijo a ver yo puedo dimitir pero es que<br>mañana van a poner a otro o se que si yo<br>no lo hago me van a despedir lo cu<br>bonita excusa no ahí ahí no pero no es<br>una excusa es una realidad es que es a<br>ver esto lo hemos visto con el fascismo<br>lo con la historia no Bueno yo no no<br>estoy aquí porque es claro Aunque yo me<br>no pasará nada porque meterán a otro<br>Entonces no hagamos nada Bueno pero qué<br>puedes hacer en ese caso puedes hacer lo<br>que ha hecho Hinton Pero igualmente me<br>lo tiras por tierra Porque Hinton ha<br>salido de Google para poder hablar de<br>los peligros libremente y aún y así le<br>dices que neralmente necesita un<br>psiquiatra pero es igual Hinton Hinton<br>lo que está diciendo no tiene ningún<br>sentido sobre la conciencia y todo eso<br>no puede haber consciencia en una en una<br>en una máquina no biológica Yo no yo<br>para mí estoy convencido de que está<br>profundamente arraigado en el carácter<br>biológico en la química del carbono la<br>conciencia la química del silicio no<br>puede dar lugar a conciencia estoy<br>convencido Ob convencimiento Exacto es<br>un convencimiento tuyo como tan bueno es<br>el convencimiento<br>Dear a<br>ver Has visto alguna Inteligencia<br>artificial consciente Bueno lo que no<br>sabemos si lo es o no dice yudkowsky<br>yudkowsky también te debe gustar<br>muchísimo no Bueno claro conoces el<br>trabajo de yudkowsky Sí claro jski Sí<br>claro Vale pues en el caso de yudkowsky<br>él dice que evidentemente cuando una ía<br>se pronuncie conforme que tiene<br>consciencia propia como ha pasado con<br>clae como ha pasado te tends que no O<br>sea te lo podrás creer o no creer lo que<br>no puedes es demostrarlo porque no hay<br>forma de demostrar que no lo es ni<br>tampoco que lo es esta gente primero que<br>les falta es una tiene una incultura<br>terrible en filosofía Esto hace años que<br>se conoce en filosofía es el enchanted<br>Circle el círculo encantado y es el<br>solipsismo que no sé si te suena y el<br>solipsismo Qué es Yo sé que tengo una<br>mente porque la tengo yo pu estoy yo<br>pero dudo es poner en duda que los demás<br>tengan mente el sol es creer que to<br>mamente tú Tú porque lo experimentas<br>tienes mente conciencia etcétera Pero<br>claro el<br>solipsismo se hunde rápidamente beran<br>Russell argumentó y lo hundió<br>completamente el soliso y otros no o el<br>Brain in a bat no el cerebro en un en un<br>en un receptáculo en un en un en un<br>cubículo no en una cubeta en una cubeta<br>todo esto es demostraciones de hillary<br>pman son declaraciones clarísimas de que<br>los sismos no tiene ningún sentido no es<br>decir Eh sí que es verdad Pero sabes por<br>lo dicen porque no se puede demostrar es<br>que yo no puedo yo no puedo estar seguro<br>100% de que tú tengas conciencia Ni tú<br>de mí totalmente eh eso de ahí va de ahí<br>sale el concepto este de soliso no eh<br>Pero eso vamos a ver por qué Y luego en<br>filosofía el el círculo encantado es<br>bueno pero es biológico como yo está<br>hecho base quimia del carbono tiene las<br>tiene la la<br>la materia es la misma que yo materia<br>biológica tiene un cerebro tiene unos<br>ojos tiene unas orejas tiene una nariz<br>eha som somos muy iguales por lo tanto y<br>ahí está el círculo encantado concedo a<br>este círculo que son todos como yo<br>concedo que si yo soy consciente ellos<br>también deberían<br>serlo Esta es la idea es es una idea muy<br>antigua y ahora no sale señor diciendo<br>que que claro De todas maneras no<br>podríamos saber si una máquina es<br>consciente o no consciente porque no hay<br>un test eh inapelable un bman inapelable<br>de de la presencia o no de conciencia<br>pues vaya me hases descubierto la rueda<br>señor desde luego lo único que está en<br>válido es decir qui decir que está tan<br>válida una opción como la otra Porque no<br>tenemos no tenemos prueba pero esto lo<br>llevamos teniendo con la religión toda<br>la vida o sea que bueno en fin decir<br>esto y no decir nada es absolutamente lo<br>mismo eh o sea es<br>el aporte de información de esta de de<br>este señor para mí es cero aplicando la<br>teoría de información de Shannon es cero<br>es la persona que más tiempo lleva<br>trabajando en el alineamiento de la<br>Inteligencia artificial en el<br>alineamiento de la Inteligencia<br>artificial ya sé quién es ya al final eh<br>lo que está claro es que venimos de unas<br>inteligencias artificiales o estamos en<br>unas inteligencias artificiales que en<br>eso estamos de acuerdo por si tu<br>opiniónes es en línea con esta o no en<br>que son cajas negras es decir sí Bueno<br>entendemos que hay cosas que no<br>entendemos<br>bueno las redes neuronales ya desde No<br>solamente la actual es la generativa<br>sino todas las redes neuronales ya de<br>los años 50 y 60 ya eran cajas negras<br>Explícame el concepto de caja negra Qué<br>significa que es una caja negra una caja<br>negra es cuando tú metes un input que<br>tienes un output Pero dentro no puedes<br>ver la línea de razonamiento que ha<br>seguido y no pued para justificar para<br>justificar el output con lo cual<br>técnicamente no podemos saber si está<br>razonando o no está razonando no no no<br>cuidado esto no no es que no razonan<br>precisamente si hubiera un raz ent lo<br>veríamos Esta es la idea pero si es una<br>caja Negra cómo lo veríamos no no si pu<br>no sería caja negra es que está por por<br>definición las redes neuronales son<br>aproximadores universales de funciones<br>Tú metes un input y te sale un output<br>haces el mapping dentro de la salida<br>pero dentro lo que sabemos es que hay<br>pesos de conexiones que que se ajustan<br>durante el aprendizaje y en la fase ya<br>de clasificación y posterior al<br>aprendizaje lo que hacen es activar<br>activar ciertos ciertos no ciertas<br>trayectorias neurales hasta que a la la<br>capa de salida pues se activan las<br>neuronas que corresponden a la clase un<br>clase dos clase 3 clase 4 Clase 5 lo que<br>sea no en un aprendizaje por refuerzo<br>que no tiene nada que ver con eso ahí ya<br>no están caja negra PR por refuerzo sí<br>que podemos ver Por qué motivos eh<br>ciertas acciones han recibido un un<br>valoración positiva y otras negativas y<br>podemos ver có hay que el mapping de los<br>de los de los input y de las<br>percepciones hacia las acciones eso no<br>es Caja negra no una una un una urbol de<br>decisión que se ha aprendido tampoco es<br>Caja negra un conjunto de reglas que se<br>ha aprendido y ha muchos técnicas de<br>aprendizaje hay un montones de técnicas<br>de aprendizaje No no pero la red<br>neuronal pura y dura y con y con ciento<br>cientos de trillones de parámetros<br>trones americanos milones nuestros de<br>parámetros ahí son números que suben y<br>bajan y que sí que ciertas activaciones<br>grupos de neuronas activadas a lo mejor<br>mapean a a que en esa imagen en esa zona<br>de imagen Pues hay una pelota o un color<br>rojo o una nube No y algo se puede saber<br>de que de dentro dentro de la red<br>neuronal examinando examinando eh<br>digamos no iba hacir microscópicamente<br>pues no no no se un microscopio<br>realmente sino con detalle sí que se<br>pueden buscar eh patrones<br>coincidencias entre entre eh ciertas de<br>la grupos de neuronas que están eh con<br>mucha activación o con pesos con pesos<br>entre ellas altos versus pesos más alos<br>incluso pesos negativos en algunos casos<br>y ver cómo se correlaciona con partes de<br>una imagen por ejemplo o con patrones de<br>un lenguaje eso se puede legar a ver eh<br>Y eso tiene un resultado muy parecido al<br>razonamiento y luego lo que en la<br>intelcia artificial explicativa lo lo<br>que se intenta es en paralelo con los<br>mismos inputs y los mismos outputs<br>Buscar reglas lógicas que de alguna<br>manera<br>eh se correspondan más o menos con estas<br>activaciones que vemos entonces es una<br>manera indirecta de explicar O sea hay<br>todo una una corriente inteligent<br>artificial muy potente que es<br>explainable Ai no inal explicable que y<br>una de las técnicas que utiliz es esta<br>que te estaba diciendo ahora no eh hacer<br>un un en paralelo utilizar una técnica<br>transparente eh Para ver si cosas que<br>vemos en algún lo poco que podemos ver<br>dentro de la caja negra algo vemos de<br>activaciones de neuronas Cómo se<br>correlaciona haciendo inputs y outputs<br>con lo otro también se pueden cambiar<br>condiciones de los inputs para ver si<br>algo que antes se activaba ahora deja de<br>activarse vios alunos casos de<br>manipulación hay maneras de hacer de<br>analizar analizar incluso una una caja<br>negra y sacar sacar algo de<br>información completamente transparente<br>como un conjunto de reglas de de<br>inferencia de un sistema experto o como<br>un árbol de decisión o fin esto no O<br>como una red balliana donde se ve<br>claramente Cómo cambian las<br>probabilidades de a perior y las a<br>posteriori en función de de la de la<br>información que vas metiendo Y cómo va<br>evolucionando estos Estos son<br>muy<br>transparentes pero como decía se puede<br>llegar hay una investigación brutal en<br>este tema noos europeos gordos que están<br>intentando no Estados Unidos también no<br>Buscar maneras más o menos indirectas de<br>dilucidar El Por qué por una una red<br>neuronal da una respuesta y no otra y no<br>otra algo se puede se puede sa algo se<br>puede saber de eso bueno las<br>alucinaciones incluso samman ha dicho<br>que no tienen solución Eh sí sí sí de<br>hecho es una una un feature no más que<br>una más que una más que un Back en este<br>caso son cosas que Que bueno que si<br>queremos que sea creativa Pues tendrá<br>que inventarse cosas como cualquiera de<br>los humanos a veces hacemos Sí pero no<br>se puede comparar con la con la<br>alucinación humana no con la alucinación<br>de hecho una de las grandes cosas que<br>Hinton ha dicho que no se deberían<br>llamar alucinaciones cl no deí es otro<br>término antropomórfico otra vez caemos<br>en la terrible antropomorfización de la<br>Inteligencia artificial Y esto es el<br>origen de muchos de los problemas y de<br>nuestra discusión y de muchas<br>discusiones Pero entonces Si volvemos a<br>lo de la caja negra si tenemos una caja<br>negra que le metemos un input y saca un<br>output y ese output parece que haya sido<br>un razonamiento de ese input parece<br>sabemos tú defiendes que no lo es otros<br>defienden que lo es si no podemos ver<br>exactamente queé está pasando tú quieres<br>decir que lo que podemos ver Es que no<br>está razonando bueno lo lo que lo que no<br>podemos ver Es que está razonando eso no<br>lo podemos ver ni tampoco podemos ver<br>que no lo está razonando loal<br>pero sí que hay esos benchmarks que te<br>digo como los contrafactuales sí de que<br>demuestran que no razona que no razon es<br>que hay manera hay maneras de verlo<br>hombre Claro porque porque no razona en<br>todos los campos porque no razona de<br>forma general porque no razona de forma<br>transversal es muy interesante porque es<br>es hay no acuerdo Quién escribió un<br>artículo sobre esto también y lo<br>comparaba con<br>con con educar enseñar enseñar a a a tus<br>alumnos no enseñar no para que aprendan<br>de verdad sino enseñarles a pasar un<br>examen que no es lo mismo enseñar a<br>pasar un examen es mucho más fácil que<br>realmente Aprenda y bueno los<br>contrafactuales y todo esto y la<br>contamination es como enseñar a pasar un<br>examen finalmente si tú le estás dando<br>tú le estás dando aprenden el siguiente<br>patrón tengo en un en un<br>cajón 10 10<br>bolas viene mi her mano y coge tres<br>Cuántas bolas quedan vale otro ejemplo<br>en un plato tengo cinco galletas<br>Ah viene un amigo mío y se come dos<br>Cuántas quedan venga y así vas cambiando<br>los objetos y vas cambiando los números<br>pero el patrón siempre es que del<br>segunda el Prim de la primera cifra le<br>restas la segunda Totalmente de acuerdo<br>esto es obvio para que lo aprenda este<br>patrón que lo detecte un modelo de<br>lenguaje Vale y por lo tanto a la que le<br>pongas un ejemplo otro ejemplo que no<br>tiene que ser exactamente igual no tiene<br>ni de galletas ni de holas nada puede<br>ser de un objeto que nunca le has<br>hablado antes los números No tampoco<br>tienen por coincidir con ninguno de los<br>números anteriores pero te lo resolverá<br>Por qué te lo resolverá porque ha hecho<br>este patrón es es como estudiante claro<br>es como un estudiante que le dices venga<br>vamos a hacer en clase 327 ejercicios<br>esto lamos en el examen en el examen os<br>pondré uno de este estilo esto loamos<br>hac las autoescuelas toda la vida o sea<br>ya sabes que las escuelas los maestros<br>much muchas veces lo hacen Eh bueno en<br>el examen saldrá eh avisan eh saldrá un<br>problema del estilo de estos y el otro<br>problema será del estilo de este otra<br>cosa no eh cuando me acuerdo cuando<br>estudiaba integrales las integrales en<br>matemáticas hacíamos cientos y cientos y<br>cientos de integrales de cada tipo de<br>por partes racionales y racionales y<br>hacías había a la que había resuelto no<br>sé cuántas integrales de estas lo que<br>hacías es aplicar el patrón pero no no<br>no no entendías el Por qué O sea eso se<br>puede saber hacer sin comprender en<br>absoluto el concepto de<br>integral aprender de verdad y razonar y<br>hacer abstracción es comprender el<br>concepto no saber resolver esos casos y<br>eso es lo que estamos haciendo con con<br>cuando entrenamos grandes modelos de<br>lenguaje Les estamos dando y con el<br>Chain of thought esto ya Es evidente<br>porque el Chain of thought<br>implícitamente exp ya tú le dices Mira y<br>le das paso a paso Mira esto se resuelve<br>de esta manera Este paso seguido de esto<br>otro y y no le das un ejemplo le das un<br>montón de ejemplos de co de Chain of<br>thought y luego claro le haces una<br>pregunta de ese estilo y te lo sacará sí<br>sin ninguna duda Pero en cambio esto<br>choca porque yo estoy de acuerdo en que<br>ciertas cosas Es evidente o sea yo creo<br>que es blanco y en botella hay muchos<br>casos en los que esto Esto no es esto no<br>es no es adquirir conocimiento bueno es<br>un tipo de conocimiento Sí pero no es no<br>no es una conocimiento abstracto no<br>entiendes la profundidad del concepto la<br>profundidad del concepto no lo entiendes<br>el otro día yo tenía aquí a Pep<br>martorell no sé si le conoces es el<br>director del Super computing Center<br>claro mucho le conozco pues Pep dijo<br>aquí en este podcast que la ia día de<br>hoy está aportando conocimiento nuevo a<br>la humanidad está qué aportando nuevo<br>conocimiento a la humanidad nuevo conoc<br>No lo sé bueno puede ser bu l que hemos<br>hablado de los supervirus Cómo puede<br>hacerlo<br>hombre si me dices lo de lo de Alpha<br>fult Alpha fult Es una herramienta que<br>ha servido es que no es la Inteligencia<br>artificial la que aporta cros a la<br>humanidad no son los humanos que usando<br>la Inteligencia artificial en equipo<br>aportan no la<br>humanidad Qué sería Qué sería default<br>sin jis y Compañía bueno jis y o si los<br>biólogos que hay detrás que ahora lo<br>utilizan para como herramienta como<br>herramienta no es un científico<br>de otra una un artículo que salió hace<br>mucho que una artificial de Google Y eso<br>es un ejemplo lo que estabas diciendo<br>que no tenemos que creernos así a pies<br>conas los<br>titulares 2,2 billones de nuevos<br>materiales igual te suena este resultado<br>sabes la continuación o no sé que<br>estaban<br>probándolos chemistry materials una<br>revista de Top en en ciencia de<br>materiales completamente de banket<br>desacreditar este resultado de 2,2<br>millones Prácticamente todo por no decir<br>todo eran de hecho materiales conocidos<br>muchos de ellos los no conocidos no eran<br>estables y no eran por lo tanto nuevos<br>materiales ninguna estabilidad en<br>absoluta tú puedes sí puedes combinar<br>combinar elementos químicos y buen y<br>sacar algo pero aquello al Cab una<br>milésima de segundo te ha desaparecido<br>no se sostiene no<br>estable Pues tengo la referencia aquí no<br>la tengo ahora tengo en el ordenador la<br>referencia del artículo que hace un de<br>banking o sea una desacredita<br>completamente es resultado de Google<br>resultado de Google se hizo viral ahora<br>lo que no es nada viral es el resultado<br>que hace que lo desacredita Por qué no<br>es viral el resultado que lo desacredita<br>qué está pasando aquí yo en mis charlas<br>sí que lo dijo eh Y muestro el título la<br>portada el título y<br>abstra del Chemical materials donde<br>hacen el<br>deing Yo ya me preocupo eh de de<br>quitarle un poco la máscara a toda esta<br>Inteligencia artificial que nos están<br>vendiendo pero claro a mí no tengo mucho<br>impacto pero la ía es precisamente eso<br>hay una máscara nos están vendiendo una<br>moto sí están vendiendo mucha moto mucha<br>moto no todo<br>cuidado estoy ahora un poco hao abogado<br>del [ __ ] no<br>todo no todo hay muchas cosas que<br>merecen la pena faltaría más pero<br>entonces qué es lo que el grado de<br>exageración es enorme enorme el titular<br>una artificial descubre una artificial<br>hace esto hace lo<br>otro domina 10 idiomas y va por más son<br>titulares que recuerdo que han sido<br>reales<br>eh domina todos un artificial ya muestra<br>signos de conciencia<br>yo recomiendo a la gente que no se los<br>crea estos<br>titulares como mínimo con un si tienes<br>un mínimo de sentido crítico tendría que<br>chirriar algo de todo eso es software es<br>software es software que nos olvidamos<br>enseguida son programas de<br>ordenador concienciar un programa de<br>ordenador corriendo sobre una<br>qu pasa ristras de unos y ceros de un<br>registro al otro y de la memoria al<br>registro registro la cpu la unidad<br>aritmética y lógica y luego devuelve a<br>otro<br>registro<br>conciencia pero estamos locos o qué<br>conoces a mustafa soliman mustafa<br>Suleiman claro estos nombres los conozco<br>de mustafa en una charla t no hace mucho<br>determinó que precisamente no es<br>software sino que es un ente vale muy<br>bien<br>pasa pasa<br>página no quiero perder el<br>tiempo intentando contraargumentar una<br>bestialidad como la de este señor es el<br>vicepresidente de inteligencia aral de<br>importa un huevo lo que sea este señor y<br>siento la expresión no no no perfect no<br>me importa nada quién sea este se mustaf<br>yo soy Ramón López demás vale por qué<br>tiene más credibilidad que yo no no no<br>es que tenga credibilidad es que está en<br>un puesto en el que toma decisiones que<br>impactan a mucha gente que tenga ese<br>puesto no no no digo que tenga la verdad<br>lo único que digo es que es que<br>sorprende ha tanta gente a mí me sabe<br>mal que esta gente tenga mucho más<br>impacto que el que pueda tener yo otra<br>gente que opina como yo y por qué que<br>levamos 60 años en la inter Por qué<br>crees que esta gente tiene tanto impacto<br>evidentemente has hablado de los<br>intereses económicos cl porque están<br>dónde están porque están dónde están<br>Están en grandes empresas con unos<br>departamentos de prensa y de marketing<br>brutales brutales y están continuamente<br>en los medios de comunicación por qué<br>porque tienen una política muy proactiva<br>para estar en los medios de comunicación<br>es uno de sus uno de los objetivos que<br>tiene esta gente es estar continuamente<br>en la palestra continuamente y lo más<br>que es el número el mejor en esto no más<br>sale cada día 1 veces en los en la<br>prensa cada día cada día en todo el<br>mundo eh es Es que no sé a veces da la<br>sensación que su objetivo es este<br>entonces<br>claro con afirmaciones como esta y desde<br>dónde están pues tienen un un un un<br>brutal ti una altavoz enorme yo yo no<br>tengo altavoz Ramón tú has dicho al<br>principio de esta charla que hubo cosas<br>de la Inteligencia artificial que te<br>sorprendieron que lo que hacen los llms<br>No creías que F Yo pensaba que no<br>podrían que no irían tan lejos Estoy<br>esto lo Admito y no puedes estar en la<br>misma situación ahora no puedes estar no<br>puedes estar en tu opinión sesgado por<br>lo que crees pero que te pueda<br>totalmente no no porque Reconozco que<br>Reconozco que que está que han tenido<br>resultados es muy interesante si no No<br>hombre si estuviera tan<br>sesgado no lo reconocería no no pero me<br>refiero que tú ahora mismo de la misma<br>forma que estuviese preguntado en el<br>2015 que chat gpt podría hacer en 2018<br>lo que empezó a hacer gpt3 o gpt2 no s<br>cuá era el que había en ese momento y me<br>hubieses dicho no no ni de puñetera coña<br>esto es imposible no no yo te hubiera<br>dicho que posiblemente<br>porque bueno 2015 igual Sí si no<br>pongamos exactitud de<br>fecha lo leí en este artículo del 2017 n<br>no salió<br>y bueno primero hay que decir que es<br>bastante crítico el artículo eh Muy<br>críptico es no está bien escrito no es<br>nada Claro<br>eh Pasa por alto muchas cosas no es<br>reproducible otro problema que tenemos<br>encial es que algunos humorísticamente<br>llaman la ciencia de los resultados irre<br>reproducibles y no no les falta razón no<br>les falta razón acuerdo y te añadiré más<br>sobre esto eh Porque ya se los grandes<br>congresos ya están tomando medidas sobre<br>este enorme problema de la falta de<br>reproducibilidad en ciencia no puedes<br>pretender hacer ciencia seria si si esta<br>ciencia es irreproducible eso es<br>fundamental en ciencia es difícil de<br>manejar pero a vez es parte de la<br>característica de la entonces bueno yo<br>cuando vi esto este artículo y tal digo<br>Bueno ha claramente se veían ideas muy<br>interesantes eso de poner de<br>poder darse cuenta de que dos dos<br>términos que están relativamente<br>alejados en el en el discurso en la<br>frase en el párrafo pues son están están<br>relacionados no en un contexto dado Esto<br>me pareció una idea muy buena la verdad<br>eh Muy buena Ahora si me hubieras dicho<br>que que que llegarían a se llegarían a a<br>hacer todo lo que se ha hecho ahora con<br>est en estos pocos relativamente pocos<br>años posiblemente te hubiera dicho que<br>que no que lo hubiera o que lo dudar<br>Pero bueno no creo que nadie tampoco no<br>ya tú nadie me podía haber hecho esa<br>pregunta para empezar porque quién te si<br>porque si alguien es capaz de hac esa<br>pregunta es alguien que está viendo<br>cosas que bueno que nadie más en el<br>mundo está viendo Es que es muy fuerte<br>eh cuidado eh o sea para empezar eso no<br>hubiera sido posible pero bueno en fin<br>eh supongamos en este escenario Hip<br>realidad es que es que ya hemos pasado<br>por puntos y es una de las cosas que yo<br>me estoy dando cuenta con apenas dos<br>años y de verdad yo incluso yo para que<br>teas una idea he dado 100 Pon de<br>Inteligencia artificial en el último año<br>pues tanto aquí como en Latinoamérica eh<br>siempre que voy a algún sitio les digo<br>por favor no me llaméis experto porque<br>los expertos son los científicos a mí<br>llamarme divulgador Yo lo único que hago<br>es masticar lo que esta gente dice y<br>contarlo o sea tengo tanta veracidad<br>como la que tenga la Fuente con lo cual<br>si yo cuento algo que dice jofrey Hinton<br>si él está diciendo una mentira<br>evidentemente yo le esty dando voz de la<br>misma forma que intento ser muy crítico<br>en el pensamiento intento de verdad pero<br>no puedo evitar lo que veo y Es que<br>desde que yo he empezado en Inteligencia<br>artificial no he parado de ver<br>científicos diciendo la ia nunca podrá<br>hacer esto y todo se ha ido barriendo<br>por el camino no Hemos llegado aún al<br>punto de que la ia de las cos lo contr<br>contrario también coches autónomos en 2<br>años dijo hace c o se años noo tenemos<br>ordenadores que nos contestan no hablar<br>de dogos en dos o tres años [ __ ] Pues<br>es que por la otra parte También estamos<br>viendo timelines los timelines no tengo<br>ninguna duda tengo unaa de que los<br>timelines son muy difíciles de predecir<br>Pero lo que sí que estamos viendo Es<br>constantemente gente diciendo que la ia<br>no podrá hacer esto y a los 6 meses la<br>está haciendo<br>eso lo está haciendo o nos están<br>diciendo que la está haciendo No s vale<br>si entramos la conspiración Ramón Yo ya<br>no puedo decir más si lo que nos dicen<br>es mentira y sí que estamos jodidos no<br>conspiración porque a ver yo y gente que<br>de a mi alrededor ha estado probando<br>estos sistemas de programación Eh mi<br>hijo mismo mi hijo es un es un excelente<br>programador está trabajando en una<br>empresa en Sydney en Australia eh Y<br>bueno en su empresa una empresa de de<br>primerísimo nivel han cuando han estado<br>probando esos sistemas de de<br>programación los los programes<br>buenos no lo usan porque pierden más<br>tiempo después y no Y además no<br>entienden no entienden el código no está<br>optimizado es muy complicado Cuando hay<br>un B no hay manera de encontrarlo<br>entonces que han dicho a la<br>[ __ ] hacemos nosotros el código pero<br>Ramón no te das cuenta que esto es muy<br>análogo a lo que por ejemplo yo soy<br>fotógrafo de profesión llevo 20 y pico<br>años dedicándome a la fotografía cuando<br>pasamos de la fotografía analógica a la<br>digital nada de lo que habíamos<br>aprendido con la analógica valía nada<br>había que revelar bueno hab había cosas<br>de composición había cosas claro que sí<br>pero al final artística for de trabajara<br>la parte artística la parte creativa no<br>se es la misma Pues si lo ponos al<br>código el objetivo es un programa que<br>funcione el Cómo hacer el código es<br>distinto ahora se está poniendo muy de<br>moda el vibe coding la parte creativa<br>sigue siendo en la mente<br>humana el invento del algoritmo dónde<br>está pero la parte la parte creativa en<br>este caso en la fotografía digital la<br>parte creativa el código estos sistemas<br>que codifican la parte creativa es<br>ausente ahí la parte creativa está en en<br>la persona el sistema artificial no sabe<br>lo que va O sea tú la pones en marcha y<br>se pone a programar por por iniciativa<br>propia si tengo un agente como manus no<br>por iniciativa propia la pones en marcha<br>no haces nada No no evidentemente no<br>tiene que tener una tarea pero de la<br>misma forma que si tengo un trabajador<br>si si tengo un trabajador Ramón y viene<br>aquí a la oficina y no le digo que tiene<br>que hacer tampoco va a hacer nada Es<br>decir es una herramienta Entonces el<br>trabajador también Es una herramienta no<br>el trabajador no es una herramienta Es<br>una agente un agente consciente y todo<br>no no no pero y a un trabajador si no le<br>doy una tarea no la ejecuta a una ía si<br>no le doy una tarea No la ejecuta hay<br>muchos propia aunque no les digas lo que<br>tú crees que a todos los trabajadores de<br>de todas las empresas cada mañana que<br>entran por la mañana 8 mañana a cada uno<br>les cuando pero cuando le contrato Sí<br>cuando yo le contrato le digo Cuál es su<br>objetivo cuál es su tarea sí eh su<br>objetivo su tarea pero pero no no pues<br>eso mismo le puedo decir a día de hoy a<br>un agente Inteligencia artificial que<br>estamos en pañales que han aparecido<br>hace literalmente un mes como por<br>ejemplo manus al que yo le puedo decir<br>Oye créame una landing page Y a partir<br>de ahí eh pu se pone a crearla y si es<br>el fondo azul o negro lo decide él ti<br>pero a un programador le haces una le<br>haces una descripción del problema mucho<br>más mucho más abstracta mucho<br>más Antes había los analistas de<br>sistemas los técnicos de sistemas Antes<br>había ahora esto se ha perdido un poco<br>en el mundo de la programación había el<br>analista de sistemas este no era el que<br>propiamente codific No ese tenía que<br>resolver un problema un problema Igual<br>que una descripción incluso bastante<br>vaga Pero luego él gracias a sus<br>capacidades desde razonamiento de<br>inteligencia pues decía Bueno a lo mejor<br>esto habría que y si no Y si el<br>algoritmo No No Y si el algoritmo no<br>estaba en una biblioteca no estaba<br>disponible se hacía falta y se y se ha<br>hecho continuamente se inventa el<br>algoritmo y se inventa Todos hemos<br>inventado algoritmos los que estamos en<br>el mundo de la programación eh<br>mínimamente bu el mundo sobre todo el<br>mundo de la investigación pero que más<br>que menos<br>ha ha hecho Innovación eh Y esto eso es<br>lo que no hará la Inteligencia<br>artificial no invent inventar un<br>algoritmo que no exista para resolver un<br>problema pero volvemos al no hará Y ahí<br>sin una sin una sin una sin una<br>especificación muy clara eso que ya<br>sabes que existe el concepto de<br>especificación formal en ingenier<br>software no sin una especificación muy<br>clara una inente artificial no te<br>generará un algoritmo así pum ahí<br>volvemos otra vez a a decir no hará no<br>hará cuando aún no sabemos lo que hará<br>podremos hablar dentro de 5 o 10 años Y<br>quizá encontraros estamos Sí sí sí me<br>parece genial y Oye y super respetable<br>obviamente no pero pero como digo para<br>mí no paramos de cambiar y de hecho<br>prueba ello en esto de la programación<br>es que ahora mismo yo tengo una<br>aplicación en vivo corriendo en internet<br>que la están utilizando miles de<br>personas Todas las semanas en la que la<br>ha generado una Inteligencia artificial<br>en base a mis comandos de dirección pero<br>yo no he programado nada con qué nivel<br>de precisión eran los comandos Con qué<br>nivel de detalle era abstract muy<br>abstracto quiero que hagas una<br>plataforma en la que la gente pueda<br>hacer tal quiero que lo conectes con la<br>Api de Open Ai esto es muy concreto eh<br>pero quiero que lo conectes con la apid<br>open open que haga una que haga qué has<br>dicho una transforma tú le pones un<br>prompt Y a partir de ahí te lo te lo<br>valida un llm y te da una opinión un<br>ranking y te lo pone es una programación<br>simple evidentemente Yo estoy de acuerdo<br>contigo de Que obviamente esto a día de<br>hoy no puedo probar has dicho ya es<br>mucho eh Pero bueno es igual pero a día<br>de hoy es algo que que puede hacer que<br>antes yo tenía que depender de una<br>tercera persona y que a día de hoy lo<br>pueda hacer la Inteligencia artificial<br>bien bien bien me parece bien nol Es es<br>un rédito económico que estamos<br>obteniendo que ha encontrado maneras hay<br>sus nichos en donde se ve que precente a<br>nivel individual incluso<br>un grupo de trabajo les ha les ha<br>facilitado la tarea les ha permito hacer<br>trabajar más rápidamente esto es verdad<br>eh Pero insisto lee el artículo de Dr<br>acemoglu<br>su su argumento principal es que la<br>productividad no es solo esto es mucho<br>más en todo el contexto de una empresa<br>mucho más que implica muchos<br>departamentos mucha gente y hay que<br>hacer hay que hacer una un análisis<br>global del impacto de la intelig<br>artificial en la productividad no local<br>en un programador concreto en un grupo<br>de programadores concretos que Alí sí<br>que puede haber un pico de productividad<br>pero queda de ahí sale el 0 com tan bajo<br>por queda diluido en el en el resto<br>Porque esto tiene consecuencias de que<br>Cos que a lo mejor ha empeorado lo que<br>otro departamento después tiene que<br>hacer por ejemplo puede empeorar el<br>hecho de encontrar un error o encontrar<br>no sé qué y y ahí no tú tú has terminado<br>tu trabajo y tú pasas a otro dices joo<br>qué productividad la mía pero le has<br>pasado la la el problema a<br>otro Y aquel resulta Y aquel resulta que<br>le baja ver el artículo eh Porque desde<br>luego es interesante y no lo conozco<br>entonces tú crees que el interés<br>económico y esa conspiración de<br>intereses económicos es la que hace que<br>todo lo que es Eh Pues de inflar la<br>Inteligencia artificial aparece y lo que<br>es de cosas negativas de Inteligencia<br>artificial no aparecen puedo puedo<br>entender la lógica No yo no la<br>aplicación Yo creo que es más más<br>incluso más pedestre eh es como cuando<br>desinforma y cuando haces cosas vende<br>mucho más vende mucho más exacto lo malo<br>y lo sensacionalista que lo otro pero no<br>lo malo en las redes sociales lo fácil<br>que se propaga eh yo que sé un el<br>mensaje de odio o una mentias para para<br>para para contra un contingente político<br>lo que sea<br>eh lo difícil que es cuando después hab<br>una Sentencia se ha chado para y Lu ves<br>que no se propaga igual la rectificación<br>esto Es evidente sí totalmente de AC es<br>totalmente evidente pero creo que creo<br>que está cerrado en cómo funciona porque<br>precisamente te puedo garantizar que<br>este podcast va a tener más<br>visualizaciones que ninguno de los<br>podcast que que el invitado defendía la<br>Inteligencia artificial no no pero te lo<br>digo porque porque precisamente creo que<br>lo que sería viral lo que funcionaría lo<br>que tiraría sería Precisamente lo<br>contrario sería poner a parir la<br>Inteligencia artificial De hecho están<br>empezando a aparecer youtubers etcétera<br>que se dedican a eso albank<br>porque tiene muchas visualizaciones<br>entonces lo que yo puedo entender esa<br>lógica tras que el interés económico<br>hace que lo que esté en la palestra sea<br>lo positivo de la Inteligencia<br>artificial pero lo que no consigo ver Es<br>como eso se vincula con los peligros de<br>la Inteligencia artificial es decir cómo<br>hablar de lo peligrosa que va a ser la<br>Inteligencia artificial porque toda esta<br>gente como Hinton benio techmark lo que<br>están pidiendo es que se pare no que se<br>desarrolle más con lo cual es como un<br>argumento en contra no han dicho que SEP<br>que yo se su hacer un esto que se pare<br>durante se meses no aqu se meses que yo<br>lo firmé Por cierto que lo firmé y no me<br>arrepiento de haberlo firmado no meo lo<br>haber firmado no se decía es que es otro<br>problema con con la con las<br>informaciones no no exactas no se no<br>pedíamos en absoluto que separara la<br>Inteligencia<br>artificial no no<br>toda cuando se reaccionó contra la<br>energía nuclear No nadie pidió que se<br>parara toda la física ahora igual no se<br>pedía que se parara toda la Inteligencia<br>artificial se pedía un tiempo de relajo<br>de calma en la ida generativa<br>Solamente porque hab porque se veían<br>esos problemas de desinformación de<br>manipulación pero pero pero solamente<br>esta pequeñas la generativa es una parte<br>pequeña de toda la Inteligencia<br>artificial y no se decía parar<br>completamente sino y no era frenarla Era<br>no desarrollar nuevos modelos de<br>frontera en lugar de de utilizar a toda<br>la sociedad como conejos de indias se<br>soltamos la Bestia y ya nos dirán los<br>problemas que aparecen ya recibimos F eh<br>hacer un experimento social de estos que<br>que es peligroso en particular Eh Esto<br>es lo que es ahí está el problema no se<br>había decir no no no hagamos esto seamos<br>más cautelosos apliquemos el principio<br>de prudencia pero es que eso es lo que<br>están pidiendo Hinton Benji techmar que<br>están pidiendo precisamente que se<br>regule para que no se puedan entrenar<br>modelos de más de X Cómo que se regule<br>ahí está la palabra clave samman cuando<br>se paseó por Europa y se le recibió con<br>la frra roja por todas partes incluido<br>aquí en España por Pedro Sánchez y<br>macron Y yo que sé cuál era su mensaje<br>en realidad su mensaje en realidad<br>es Yo soy el chico bueno de la película<br>y hacerme caso a mí de cómo hay que<br>regularlo su su objetivo era influir en<br>la forma en que se regulara la<br>Inteligencia artificial pero es que me<br>metes el mismo saco hasta<br>este este me metes en el mismo saco a<br>Sam buen ahora hablaba de samal Hinton<br>No qué ha dicho de La regulación bueno<br>Ellos dicen que hay que regularlo para<br>parar la Inteligencia artificial para<br>que la sociedad pueda preparse ha hablan<br>literalmente de controlar la<br>Inteligencia artificial no no sé en qué<br>términos si pararla literalmente pero<br>desde luego lo que lo que ellos quieren<br>desde luego es frenar sin ninguna duda<br>el desarrollo de Inteligencia artificial<br>desbocado que hay ahora mismo y obligar<br>a las empresas a Que tengan un<br>porcentaje muy importante de recursos un<br>20%<br>que a día de hoy no lo cumple ni el tato<br>bueno bueno ya pero ya sabes hay<br>empresas que dicen esto y luego echan a<br>echaron a timn g y a margaret mitchel<br>que eran las responsables de ética de<br>Google las echaron porque precisamente<br>llamaron la atención sobre el peligro<br>que suponía desarrollar unos modos de<br>lenguaje que la gente tomara como<br>humanos y y ya sabes famoso artículo de<br>que publicaron y como y como represalia<br>las echaron eh echaron a las dos a las<br>dos cabezas de del departamento bueno<br>grupo no sé de ética de Google O sea que<br>y luego que Google me vaya a mí diciendo<br>después de haber echado estas dos<br>personas que venga a mí y me diga que<br>está preocupada por la Inteligencia<br>artificial y por aspectos éticos vamos<br>hombre se puede tener cara dura pero<br>tanta no lo mismo ha hecho Microsoft<br>tambén que está bien no están tomando el<br>pelo esta gente y entonces vale Entonces<br>tenemos Claro que todo esto hay una<br>especie de Conspiración entre comillas<br>intentar vendernos aspiración no me<br>gusta eh Pero bueno entonces cómo le<br>llamamos porque nos están intentando<br>vender la ía incluso tú nos has dicho<br>que que no nos creamos hay unos<br>intereses pero nos has dicho que incluso<br>no nos creamos las noticias que salen de<br>lo que hace la ia no porque va en el<br>sentido de que diga una ide ha hecho<br>esto ha hecho lo otro ha descubierto<br>Esto no es un grupo de investigadores o<br>de personas usando la ya han hecho esto<br>eso es lo que critico yo que no nos no<br>nos creamos a pies contil es el titular<br>el titular eso me refería y porque hay<br>mucha exageración hay mucha exageración<br>en los titulares eso es lo que digo yo<br>vale Enton y que hay que<br>creerse con hay que aplicar mucho<br>sentido crítico Entonces yo creo que has<br>dejado muy claro lo que crees que no es<br>la Inteligencia artificial y voy a hacer<br>énfasis en lo que crees Porque<br>evidentemente la comunidad científica<br>está dividida en una parte o en otra qué<br>sí es la Inteligencia artificial qué es<br>lo que es la Inteligencia artificial a<br>día de hoy procesamiento de información<br>para resolver problemas y qué nos aporta<br>como sociedad qué nos aporta bueno no<br>como a ver Sí esa es una buena pregunta<br>de hecho Porque yo cada vez me lo estoy<br>preguntando más si nos aporta realmente<br>cuidado a la sociedad eh en general si<br>nos aporta más beneficios o lo contrario<br>o perjuicios Y qué opinas y a mí en<br>estos momento la balanza me Temo que que<br>se inclina más hacia no no hacia los<br>beneficios sino hacia hacia los<br>perjuicios solamente tenemos que ver los<br>de fakes la<br>desinformación influencias en las<br>votaciones en países en fin cuando pones<br>esto en la balanza J pesa mucho eh mucho<br>muchísimo De hecho yo creo que que es un<br>problema muy grave y sobre todo Si<br>añadimos el tema del empleo que no Por<br>lo tanto ya ves un poco mi balance antes<br>cuando hemos hablado de los peligros<br>hemos hablado del peligro existencial de<br>que la se nos vaya las manos y domine el<br>mundo y nos mate a todos vale pero es<br>Exacto pero tú has dicho eso le quita<br>atención a los problemas reales los<br>peligros reales de que una lista larga<br>eh Cuáles son Uf Bueno mira tengo un<br>artículo que están todos enumerados ahí<br>bueno obviamente los archiconocidos de<br>como lo acabo de mencionar no eh<br>herramienta para desinformar para el<br>tema los Deep fakes los sesgos<br>discriminación manipulación eh que está<br>en manos como decía yo de de media<br>docena de personas que están<br>determinando por dónde va la<br>Inteligencia artificial se no se al<br>mundo académico se les ha se nos ha<br>escapado completamente completamente la<br>el tema de la Inteligencia artificial no<br>tenemos ni los recursos económicos ni<br>humanos que van ligados claro para para<br>para intentar ha perdido el control<br>sobre Inteligencia artificial no control<br>sí no se ha perdido la la sea la Hacia<br>dónde va la Inteligencia artificial<br>depende ya de esta de Esta media docena<br>de de personas básicamente que Esto para<br>mí es un problema muy muy muy importante<br>no si tuvieses que ponerlos por un orden<br>de magnitud de cuáles son los problemas<br>más graves para la sociedad bua la<br>energía con El excesivo el brutal las<br>demandas energéticas que tiene y de agua<br>no esto también es otro problema que lo<br>podía en la lista en la balanza esta lo<br>pondría también en la parte no no de<br>beneficios necesari precisamente no<br>eh No sé para mí lo tengo bastante Claro<br>que afortunadamente hay beneficios<br>también en este momento digo que quizás<br>la valenza se decanta más hacia los<br>perjuicios que los beneficios pero los<br>beneficios también nos ha ido muy<br>importantes y para mí el el el sector<br>clave clave clave y claro donde la donde<br>hay más beneficios la etiqueta<br>artificial en tanto que herramienta Es<br>la medicina eh tema de la salud y<br>biomedicina hay incluido no solo<br>alphafold sino permite desarrollar eh<br>nuevos fármacos vacunas etcétera no eh<br>alpens para el tema de las mutaciones de<br>genes cuáles mutaciones son más<br>probables de que causen enfermedades y<br>otras que no El Alfa missense que no<br>está muy no es muy conocido para mí es<br>tanto más importante que Alfa F eh Ah en<br>fin no sé obviamente yo mismo he<br>trabajado muchos años en temas de<br>médicos no y y nosotros mismos<br>constatamos que gracias a un sistema<br>experto de diagnóstico de de neumonías<br>extrahospitalarias en adultos se salvó<br>la vida clarísimamente de un paciente<br>que que el sistema experto modificó el<br>diagnóstico del el médico y tuvo en<br>cuenta que posiblemente no era lo que el<br>médico decía sino Aunque lo que el<br>médico decía era razonable clínicamente<br>y era compatible con con los síntomas y<br>todo que era neumococo el sistema<br>artificial añadió como otra posibilidad<br>la legionela le cambiaron la medicación<br>y salvaron la vida eh un hospital en el<br>en el hospital de mataro esto lo digo lo<br>digo públicamente porque está Está<br>constatado o sea yo mismo he tenido la<br>la la fortuna o no sé de de estar<br>implicado en un proyecto en un proyecto<br>de de medicina inal y medicina que<br>pienso que hicimos una algo una<br>contribución a a salvar posiblemente una<br>vida no Y eso no justifica todo lo demás<br>bueno a ver a ver Es verdad que que es<br>que<br>que el peso<br>específico si si damos el mismo peso a<br>todo está claro si si si ahora empezamos<br>a ponderar es decir vamos a ver las la<br>aplicación médica eh pesa más que el<br>hecho de que se<br>desinforme esto quién lo puede decir eso<br>a ver yo no me atrevo a hacer esta<br>comparación la verdad Y entonces si<br>dependiese de ti pues afortunadamente ha<br>hay beneficios también si dependiese de<br>ti qu crees que hab dejo aquí lo dejo<br>aquí eh si dependiese de ti qué crees<br>que habría que hacer con la Inteligencia<br>artificial cuál sería el roadmap que<br>tendríamos que seguir como humanidad<br>pues pues seguir con seguir con la con<br>la la idea de La regulación para mí y la<br>educación las dos cosas pero hay que<br>seguir desarrollándola Sí y para seguir<br>desarrollándola no crees que hace falta<br>el dinero que genera cuando podemos<br>venderle copilot a una<br>empresa O sea que el dinero para regular<br>aral que para regularla no el dinero<br>para desarrollarla es decir dicho que<br>hay una serie de beneficios entiendo que<br>hay una serie de riesgos lo que tenemos<br>que intentar es avanzar mitigando los<br>riesgos Y aprovechando los beneficios<br>eso sería lo ideal pero para avanzar Hay<br>que meterle dinero porque desde luego<br>desde los años 70 noada había dinero en<br>la Inteligencia artificial están<br>haciendo avances tremendos en los<br>inviernos no hubo dinero luego sí que<br>hubo pero bueno es igual pero nada<br>parecido lo que estamos viendo ahora no<br>es<br>compar sector privado lo que creo lo que<br>creo que es que tenía que haber más<br>implicación por la parte pública esto<br>Esto es lo que creo yo lo que creo yo y<br>más y más modelos código abierto Open<br>source y todo es crees qué opinas del<br>Open source porque evidentemente estamos<br>viendo la ia puede traer problemas como<br>los Deep Entonces el hacer un modelo de<br>Deep fake Open source genera un problema<br>mayor No no sí es verdad que también<br>claro que tiene sus inconvenientes la<br>Open source obviamente precisamente no y<br>precisamente La regulación una de las<br>críticas a La regulación es que puede<br>dañar el open source correcto Y esto es<br>verdad es verdad es verdad Quizás quizás<br>hay que sería necesario Pues de alguna<br>manera modificar esta la manera en que<br>estamos regulando en verdad yo no tengo<br>la solución mágica si la tuviera a lo<br>mejor me forra no Pero obviamente no<br>tengo la solución mágica de cómo se<br>puede Cómo se<br>puede de alguna manera compensar o<br>compaginar la el hecho de regular con el<br>hecho de también no no cargarse O no<br>dejar sin protección el el open source<br>es un tema complejo sí no tengo la<br>solución eh No tengo la solución No lo<br>sé más allá de lo que te gustaría que se<br>hiciese en Inteligencia artificial Hacia<br>dónde te gustaría y tal Hacia dónde<br>crees que vamos teniendo en cuenta lo<br>que sabes de la sociedad que tenemos<br>Bueno qué crees que va a pasar en los<br>próximos 5 años a<br>ver yo pienso que vamos a ver eh más<br>eh más y<br>más proyectos o trabajos o desarrollos<br>en<br>donde vemos la corporeidad de<br>hecho de m ya sabes tien el pl gato<br>platoo y otro y ahora yo no no me<br>acuerdo las siglas de la etiqueta del<br>último que ya están están ya combinando<br>el robótica con con estas ías<br>generativas no es lo que decía antes la<br>generativa hay pura y dura Yo pienso que<br>está como est tocando un poco decía yo<br>te hecho y límites no pero hace falta<br>más cosas no hace falta hacer híbridos<br>con integridad tal más simbólica y con y<br>con cuerpo con robótica No ese cuerpo<br>para que las la parte sensorial sea la<br>que pueda darle más datos para ese<br>modelo de mundo Exacto para ayudar a<br>creer un modelo del mundo y de dotar<br>algún tipo de modelo de relaciones causa<br>efecto causa efecto es uno de los claves<br>de<br>de de la inteligencia humana que somos<br>capaces de de de anticipar de aprendemos<br>relaciones caus efecto y sabemos que<br>para para producir un cierto efecto hace<br>falta cierta causa o sabemos que que si<br>observamos una causa podemos predecir el<br>efecto no tanto a nivel social como de<br>objetos físicos todo no Y esto entender<br>estos conceptos pues tiene su<br>importancia eh Porque puede podemos<br>tener aplicaciones más interesantes tú<br>imagínate un robot un futuro robot<br>doméstico en una cocina no buen hemos<br>visto figur no sé si viste figur con el<br>último eh con helix que se llama su<br>modelo de Inteligencia artificial<br>desarrollado propio in the house que<br>funciona de forma local en el sistema y<br>tiene lo que llaman un eh lam creo que<br>llama que es que básicamente tiene la<br>capacidad de entender el lenguaje la<br>capacidad de visión para poder la<br>multimodalidad la multimodalidad<br>entonces que básicamente le tiran una<br>cesta la compra en la mesa y lo Pon en<br>su sitio en yo creo que vamos a ir vamos<br>a ver cada vez más salías eso me puedo<br>esa demo nos la creemos o no nos la<br>creemos esta esta concreta no la he<br>visto una serie de ingredientes una mesa<br>y él lo guarda en la cocina y ellos nos<br>dicen que no había visto nunca ni los<br>objetos ni la cocina m y el robot lo<br>guarda los huevos en la nevera el pan en<br>el en la despensa y los diferentes<br>elementos los guarda cada uno en su<br>sitio nunca ha visto antes ni un huevo<br>ni una nevera ni haber visto nunca ni<br>los ingredientes que le han puesto o sea<br>las cosas que le han puesto en la mesa<br>ni el espacio de cocina en el que está<br>trabajando y abre la nevera y lo coloca<br>sí y en los armarios también ya te lo<br>enseñaré eso Cuidado con las demos eh No<br>digo que no que que no haya mucho está<br>revolucionado porqueo que no hay muchos<br>resultados interesantes detrás pero el<br>vídeo nos pueden mostrar solamente la<br>parte buena<br>eh que eso pasa continuamente Sí sí<br>hemos visto mucho cuidado porque a lo<br>mejor antes de abrir la nevera abrió yo<br>que sé lavaplatos para para poner los<br>huevos posiblemente Y eso no nos lo<br>enseñan Porque para mí ir directamente a<br>la nevera me chirría eh Me chirría<br>porque si no la ha visto nunca antes una<br>nevera ni un navap platos ni nada ni un<br>armario ni nada no nevera se ha visto no<br>ha visto esa concretamente ha visto<br>neveras lo que no habrá visto es esa<br>tendrá un entrenamiento pero no ha visto<br>esa nevera concreta de la neveras antes<br>y ha visto huevos en neveras antes<br>Supongo que sí lo que no habrá visto Ni<br>esa nevera ni ese<br>huevo Entonces sí Entonces sí que es<br>creíble pero ningún otro robot ha hecho<br>esto entonces Claro que es creíble esto<br>por supuesto que es creíble Claro que sí<br>porque a ver ver más o menos a ver hay<br>un patrón claro Hay unas similitudes y<br>los huevos a ver a no ser que sea un<br>huevo de de avestruz y pero sino huevos<br>de gallina Pues tampoco saa que que es<br>posible el hecho de que un robot sea<br>autónomo en ese sentido que haya<br>aprendido que se ha entrenado y y luego<br>Esto sí que eso es creíble esto es<br>creíble eso sí que es creíble<br>perfectamente no mi ejemplo iba por otra<br>parte imagínate un robot que tiene que<br>esto<br>hacer todo lo que haces tú todo<br>eh yo tú en en una cocina yo hago muy<br>poco pero en fin Igual tú haces mucho no<br>y y Bueno hay hay los cajones tienen el<br>tirador en el medio Porque salen tirando<br>pero el tirador en las puertas está en<br>un extremo porque oscilan por las<br>bisagras no vale entonces bueno<br>Ah viendo sistema de visión artificial<br>del robot y que le preguntes qué son<br>cajones y Qué son y qué son armarios<br>armarios Bueno<br>espectivamente si previamente ha habido<br>un gran un entrenamiento y y ya no<br>solamente observar que también eh<br>También observar pero si Además ya y ha<br>abierto antes cajones y ha abierto antes<br>armarios es bastante probable que aunque<br>el armario y el cajón no sean de la<br>misma forma ni el tirador sea el mismo<br>tipo de tirador ni ni aunque haya<br>variaciones sí que es probable que con<br>el entrenamiento previo sepa dónde está<br>el cajón que es un cajón y que es una y<br>que es una puerta de armario eh es muy<br>probable también sepa que si en el fondo<br>la cocina hay hay unos imanes y hay todo<br>tijeras y cuchillos ahí en en los que<br>sepa que aquelo no puede flotar en el<br>espacio que aquello tiene que haber un<br>tipo de sujeción es muy posible que sepa<br>también que aunque en la imagen que le<br>muestras en la cocina eh solamente se<br>vea un Grifo sepa que que hay un segundo<br>Grifo como Generalmente hay agua fría<br>hay un Grifo de agua fría que es<br>separado de agua caliente puente sepa<br>que si ve un un objeto grande<br>rectangular y ve un mantel sepa que<br>debajo del mantel posiblemente hay una<br>mesa porque sa ve que el mantel es<br>flexible y que adopta la forma del<br>objeto que tiene por debajo que es<br>sólido que es una mesa y por lo tanto<br>puede deducir sin verla ve el mantel eh<br>pero como ve la forma cuadrada y todo y<br>que cuelga que des fua que una mesa todo<br>esto sentido común estos conocimiento en<br>sentido común esto puede ser que después<br>de un entrenamiento y haga aprendido<br>relaciones causa efecto porque aprender<br>a abrir correctamente cajones y y<br>puertas de armario es poner en marcha<br>relaciones caus efecto Yo quiero el<br>efecto es abrir el cajón Cuál es la<br>causa tirar no pero tirar no no esperas<br>que el cajón gire eh y viceversa para el<br>armario Bueno si antes aprendido estas<br>raciones causa efecto ha aprendido estos<br>conocimientos de sentido común entre<br>comillas este robot se podrá<br>desenvolver básicamente bien en esa<br>cocina pero si no tiene ningún tipo de<br>esos conocimientos creo veo difícil que<br>que pueda hacer algo<br>razonable en esa cocina no deir por TR<br>en error sin antes haber haber sido<br>entrenado por lo tanto conocimiento de<br>sentido común tiene No es simplemente un<br>objetivo una colidad científica que que<br>está ahí y que por eso se investiga sino<br>que tiene tiene sus implicaciones<br>prácticas no para hacer para que un<br>robot sea mucho más eficiente en un<br>entorno doméstico no que la cocina Habla<br>pues de puedes hablar de otras estancias<br>de la casa o o el mundo en general lo<br>cual vamos complicando el problema eh<br>cuidado también eh No es lo mismo<br>entrenar un robot en un contexto de<br>solamente de cocina que un robot para<br>que generalmente en la calle el<br>supermercado<br>todo ya ves la dificultad no imagínate<br>no O sea por lo tanto sí que creo que<br>que laeta artificial irá por ahí con<br>estará incorpor cuerpo en B no corporea<br>Y eso le permitirá a esta etiqueta<br>artificial corpórea pues esto pues<br>aprender estas relaciones que es afecto<br>que y adquirir un modelo del mundo con<br>lo cual será podrá ser más útil que que<br>si no lo tuviera que si no hubiera<br>aprendido estos conocimientos Yo creo<br>que por eso Pienso que vamos a ir a<br>nivel investigación vamos a ir por ahí<br>eh puramente científica eh<br>científicamente hablando y vemos<br>sistemas cada vez más integrados y más<br>híbridos no lo sabes No que alphafold<br>tiene 32 algoritmos Si alpaf la gente se<br>cree que es que solamente es un r<br>neuronal y punto han llevado 32<br>algoritmos eh 32 algoritmos<br>reinforcement learning Monte Carl<br>research no s Cuántas variedades exes<br>neuronales en fin es un pero Fijate<br>Fíjate que Ah Es enormemente sofisticado<br>fate que Ah qui no quiero volver a abrir<br>el melón pero fíjate como ahí Alpha fold<br>es un caso muy claro Porque el otro día<br>en hace unas unas cuantas semanas en<br>davos deis contaba que alphafold ya ha<br>predicho todas las proteínas conocidas<br>están yo creo que ya lo han conseguido<br>sí todas ha hecho mil millones de años<br>un billion years de trabajo científico<br>en 4 años creo que lleva Alfa fold eh 1<br>millones de años de trabajo científico<br>sí lo que hubieran tardado con tnas de<br>cristalografía etcétera tradicionalmente<br>un doctorado dedicaba todo su doctorado<br>a predecir una proteína bueno<br>básicamente yo conun<br>unas cuantas horas días como mucho te lo<br>hacía incluso mejor eso tiene un impacto<br>Sí claro que tiene impacto obviamente<br>impacto increíble en el mercado y además<br>como lo han lo han es accesible a la<br>comunidad de investigadora a los<br>biólogos moleculares a toda la gente que<br>está haciendo investigación en eso son<br>nuevos fármacos<br>Pues por eso por eso le han dado el<br>premio Nobel eh Muy muy mecido En mi<br>opinión Pero precisamente cuas gente en<br>el mundo se dedicaba a investigar<br>plegamiento de proteínas o sea los<br>podríamos contar no es una locura no<br>mucha en cambio lo que chat gpt está<br>haciendo para los 5000 millones de<br>personas prácticamente no todos porque<br>hay una desigualdad de tres pases de<br>[ __ ] pero para una gran parte de la<br>sociedad es precisamente hacer eso es<br>precisamente que yo pueda contestar mis<br>correos electrónicos más rápido que yo<br>pueda hacer tal con lo cual el valor<br>intrínseco que se tiene a nivel<br>individual es innegable o sea es lo<br>vemos<br>yo es libro 100 cosas que hay que saber<br>sobre Inteligencia artificial en catalán<br>en el 23 en el 24 ha salido en<br>septiembre pasado salido en castellano<br>bien tuve Admito la la tentación y no<br>solo tentación sino que probé de usar<br>chpt para para<br>paración lo probé con tres o cuatro<br>cuatro primeros capítulos tenía que<br>repasar tantas cosas cosas que lo dej lo<br>dejé de lado pero no solo ese es el<br>problema en el fondo hubiera ganado<br>tiempo lo confieso en lugar de haber en<br>lugar de pasar como<br>estuve con total 4 meses creo que fueron<br>cu o 5 meses bastantes horas al día<br>traduciendo es posible que lo hubiera<br>podido hacer No sé a lo mejor en la<br>mitad de tiempo tengo la menuda pero ah<br>Vamos ahí está el kit de la cuestión<br>lo que veía que sacaba no era yo no me<br>reconocía no era mi estilo de escribir<br>el Catalán tampoco hubiera sido el mismo<br>estilo de escribir el inglés si lo<br>hubiera hecho al inglés no Entonces yo<br>me<br>parecía poco poco<br>ético usar eso que no era yo es dime<br>tonto dime tonto y dime perdiste dos<br>meses por este principio pero bueno dio<br>los valoro los principios cada uno tiene<br>los suyos cada uno tiene los suyos no<br>Bueno creo Mars tenía varios los podía<br>cambiar Si no te gustaban te cambiaba no<br>pero mi opinión yo yo yo hice este<br>análisis digo [ __ ]<br>pero no soy yo esto este este no esto<br>que esto no es mi forma de escribir No<br>es mi forma de expresarme esto lenguaje<br>super exagerado super<br>florido Bueno ya sabes que hay hay hay<br>estudios que han hecho sobre la la<br>frecuencia de términos que antes del ch<br>casi no se usaban en los textos en los<br>textos científicos sobre todo se ha<br>hecho mucho y y y la curva empieza y hay<br>una serie de términos que gu crecen<br>exponencialmente incluso términos muy<br>utilizados Por cierto es una manera de<br>det es una manera de detectar si si ha<br>estado generado un texto o no Por chatd<br>lo cual eso es muy curioso muo es más en<br>inglés Hay términos que son utilizados<br>en inglés african no y porque es donde<br>se ha hecho el reinforce human learning<br>entonces básicamente<br>utiliza exactamente entonces o sea<br>entonces no lo hice no fui yo que<br>dediqué mis horas y mi espacio y te voy<br>a decir algo más Stan isl de ane ha<br>hecho trabajos muy interesantes sobre<br>cómo los niños aprenden y su conclusión<br>es que si es con papel y lápiz aprendes<br>y memorizas mucho mejor que<br>tecleando ahora y luego un artículo en<br>nature human behavior un artículo en<br>nature human behavior que ahora te puedo<br>dar la referencia memorizada porque no<br>la tengo memorizada muy reciente donde<br>dice que se puede pagar un<br>precio cognitivo alto de abusar de los<br>modelos de lenguaje porque escribir es<br>pensar si delegamos la capacidad de<br>escribir nuestra capacidad de escribir<br>la delegamos en la máquina y dejamos Ya<br>de de escribir de de eh de pensar de<br>cómo pongo mis ideas en cómo lo vamos<br>podemos per perder la habilidad<br>cognitiva no y a describir Sino les<br>puede afectar la habilidad cognitiva de<br>pensar nature human behavior No es<br>cualquier revista eh cuidado O sea que<br>tenemos que ser un poco cautelosos<br>también a la hora aunque nos parezca Y<br>no no nos parezca Aunque efectivamente<br>veamos veamos que no que es práctico y<br>que y que nos hace ganar tiempo y bla<br>bla bla<br>evaluemos un poco el coste a largo plazo<br>de emos el coste a largo plazo de estas<br>cosas eh viendo estas cosas que<br>evidentemente como tú dices te puede<br>ahorrar tiempo te puede dar<br>productividad te puede dar dinero te<br>puede dar muchas cosas crees que a largo<br>plazo ya no establezcamos una línea<br>temporal porque entiendo que tendremos<br>divergencias muy importantes ahí pero<br>crees que a largo plazo Tendremos que<br>redefinir lo que significa ser humano<br>por la Inteligencia artificial bueno<br>Pues quizá quizá sí eh quizás si no lo<br>descarto lo descarto y de hecho es un<br>tema que ha sido tratado en la<br>literatura ya lo sabes<br>No incluso bueno no solo por filósofos<br>sa por otras poras por neurocientíficos<br>igual porque sí sí sí es posible que que<br>que que todo todo esta locura que ahora<br>contexo de la artificial y y que tomamos<br>tomemos como por humanos cosas que no lo<br>son y que les<br>otorgues les otorguen realidad oo quizás<br>estamos no sé si decirlo así Pero quizás<br>estamos infravalorando lo que significa<br>ser humano No lo sé Eh sí pero sí yo<br>creo que esto una es es algo a darle<br>vueltas es algo a darle vueltas Sí sí<br>sin duda eh sin duda Ramón Muchísimas<br>gracias para mí ha sido un absoluto<br>placer Eh bueno tener un punto de vista<br>completamente opuesto a lo que<br>normalmente vemos yo me considero una<br>persona crítica con la Inteligencia<br>artificial pero desde luego lo tuyo Está<br>a otro nivel<br>y no me voy convencido tengo que decir<br>que yo sigo pensando porque lo que veo<br>mi dí día la inteligencia<br>aral obaba de conven exo Pero lo que sí<br>que me voy a nadie ni a de los que nos<br>Oigan no nos vean Pero lo que sí que me<br>voy es siendo consciente de que sí que<br>es cierto que a veces pecamos de<br>creernos por un sesgo de autoridad a<br>todo lo que se nos dice desde ciertos<br>sitios y con lo cual el pensamiento<br>crítico sin duda Va a ser una de las<br>cosas más importantes sí no no esto<br>Estamos de acuerdo muchísimas gracias<br>Gracias a ti<br>[Música]