Eh, como algunos de vosotros a lo mejor<br>no nos conocéis, sí que queremos hacer<br>una presentación de lo que es Integra.<br>Eh, ¿qué es Integra? Pues Integra es una<br>consultora especializada en acelerar<br>resultados de nuestros clientes a través<br>de la integración de tecnología y<br>conocimiento. Y de hecho este webinar es<br>un claro ejemplo de la combinación de la<br>tecnología y el conocimiento. Tenemos<br>presencia a nivel nacional distintas<br>sedes ubicadas en distintas ciudades de<br>España. Somos una empresa de origen<br>familiar con más de 850 personas y 33<br>unidades de negocio.<br>Tenemos cuatro líneas de negocio<br>diferenciadas, la línea de negocio de<br>consultoría, la línea de negocio de<br>tecnología, línea de negocio de<br>formación y la línea de negocio de<br>hostelería.<br>E tenemos alianzas con distintos<br>fabricantes como Microsoft, IBM, Amazon,<br>SF, SGE, Factorial, Lenovo, Fortinet. Y<br>en este caso, este webinar lo impartimos<br>desde la división de consultoría, en la<br>que lo formamos más de 100 profesionales<br>expertos en temas de excelencia,<br>gestión, operaciones, tecnologías de la<br>información y derecho digital. De hecho,<br>este webinar me acompaña mi compañera<br>STER, que es especialista en el ámbito<br>del derecho digital.<br>Dentro de consultoría conformamos eh<br>distintas áreas de negocio, como podéis<br>ver aquí, consultoría estratégica,<br>consultoría de operaciones en la que nos<br>centramos también en los sistemas de<br>gestión certificados, como puede ser<br>esta norma ISO 42001, la parte de<br>consultoría legal en la que eh hablamos<br>de gobernanza legal de la IA y de hecho<br>en este webinar vamos a hablar de<br>gobernanza legal de la IA porque es uno<br>de los aspectos fundamentales en los que<br>se centra esta norma ISO 42001.<br>Eh, también tenemos la parte de<br>consultoría de personas, estrategia de<br>clientes, marketing y la parte de<br>consultoría de transformación.<br>Y ya sin más dilación vamos a ver qué en<br>qué nos vamos a centrar en este webinar.<br>¿Qué vamos a ver? Pues os proponemos eh<br>cinco apartados. Primero hablaremos de<br>la situación actual, la era de la<br>inteligencia artificial. Un poco<br>reflexión en el momento en el que<br>estamos. Después hablaremos de eh qué es<br>la norma ISO 402001, sus elementos<br>fundamentales, estructura, qué<br>beneficios tiene. Después pasaremos a<br>profundizar en los elementos clave de la<br>ISO 42001. Y aquí hemos elegido cuatro<br>elementos clave que os queremos eh<br>contar eh y que lo mi compañera Ster<br>profundizará en ellos. Luego, después de<br>haber hablado de estos elementos clave,<br>os diremos cómo deberíamos, en caso de<br>que quisiéramos ir hacia una<br>certificación, cuál es el camino a<br>seguir. Y ya por último, eh, como os ha<br>dicho mi compañera, tenemos un panel de<br>dudas y preguntas en el que podéis<br>lanzar cualquier pregunta, cualquier<br>consulta, si no la podemos contestar en<br>este webinar. No os preocupéis porque<br>posteriormente contestaremos a todas las<br>dudas y preguntas que estén planteadas<br>en el chat.<br>Así que empezamos.<br>Sitación actual, la era de la<br>inteligencia artificial. Y aquí yo creo<br>que casi es indiscutible el hecho de que<br>hoy en día vemos noticias constantemente<br>en en prensa, en internet, me llegan al<br>teléfono móvil, estamos rodeados de<br>información y hay muchísimas noticias<br>relacionadas con el tema de inteligencia<br>artificial. Estas noticias a veces son<br>en positivo, como nos ayudan a ganar en<br>eficiencia, en productividad, en el<br>procesamiento de la información y otras<br>veces pues es verdad que no son tan en<br>positivo, no son noticias un tanto<br>alarmistas de como por ejemplo las que<br>tenéis aquí, que os he puesto unos<br>ejemplos de pues el uso de imágenes<br>falsas utilizadas en algunos casos pues<br>para fines no muy lícitos, ¿no? O no muy<br>éticos. el tema de las advertencias,<br>¿no? Por ejemplo, del jefe de seguridad<br>del Reino Unido advirtiendo de los<br>peligros de la inteligencia artificial o<br>como incluso extrabajadores de las<br>propias empresas que eh gestionan eh<br>inteligencia artificial, como puede ser<br>Opene o Google, nos hablan de los<br>riesgos que ellos han visto en el uso de<br>la inteligencia artificial. Esto es una<br>realidad. La IA ha venido para quedarse<br>y tenemos que convivir con ella, con sus<br>luces y con sus sombras.<br>De hecho, si vemos cuál ha sido la<br>proyección de la inteligencia artificial<br>en los últimos años, desde 1950, que fue<br>cuando se empezó a plantear o cuando nos<br>empezamos a plantear si las máquinas son<br>capaces de pensar. Esto ocurrió en ese<br>año por Alan Turing hasta el día de hoy<br>en el que hemos conseguido eh utilizar<br>modelos y agentes de inteligencia<br>artificial generativa y hemos llegado a<br>un momento de regulación de la<br>inteligencia artificial cuando hemos<br>visto que estos avances, como veis aquí<br>a lo largo de los años, han sido de una<br>manera tan exponencial que incluso ha<br>podido sorprender a los propios, vamos a<br>decir, originarios, ¿no? O promotores de<br>la inteligencia artificial. Ahora, a día<br>de hoy, podemos decir que el reto actual<br>no es usar la inteligencia artificial,<br>que está instaurada, vamos a decir, eh,<br>casi con normalidad, sino gobernarla con<br>responsabilidad y confianza. ¿Por qué?<br>Porque lo que no queremos es<br>convertirnos, ¿no?, en que la como la<br>película esta de Terminator eh, llegue a<br>hacerse realidad, ¿no? A que realmente<br>la inteligencia artificial nos llegue a<br>gobernar a nosotros y no al revés, que<br>nosotros seamos capaces de gobernar la<br>inteligencia artificial.<br>Dicho esto, y aquí vais a entender muy<br>bien y vamos a ver eh por qué, ¿no?, el<br>porqué de esta norma ISO 42001.<br>¿Por qué surge la norma ISO 42001?<br>Bueno, eh primero matizar eh que esta<br>norma es una norma internacional que ya<br>surgió en el 2023 y cuando hablamos de<br>ISO 42001 2025, por eso hablamos de la<br>la nueva norma ISO 40 y 2001 es la<br>traducción al español y por eso lleva<br>UNE de la norma internacional, ¿vale?<br>Entonces ahora mismo de la que estamos<br>hablando es de la UNISO IEC 420012025.<br>Esta norma ha surgido para ayudar a las<br>organizaciones a desempeñar de forma<br>responsable su papel con respecto a los<br>sistemas de inteligencia artificial,<br>todos los sistemas que se están<br>utilizando en las organizaciones. En<br>definitiva, nace para dar respuesta a<br>los riesgos asociados a la inteligencia<br>artificial que los sistemas<br>tradicionales no contemplan, ¿vale? Esos<br>riesgos asociados a temas de seguridad<br>en el uso de la IA, de cumplimiento<br>normativo, luego veremos. Mi compañero<br>os contara que hay mucho cumplimiento<br>normativo relativo a la inteligencia<br>artificial, tema de privacidad,<br>tema de transparencia, realmente esa<br>información de dónde está viniendo y qué<br>origen tiene. Y sobre todo el tema<br>ético, si realmente la estamos usando<br>para un buen fin o para fines pues que<br>no son pues lo que vamos a decir pues<br>debería de ser. Al final hay tantos<br>riesgos asociados al uso de inteligencia<br>artificial que esta norma ha sido<br>necesaria y se ha visto esa necesidad de<br>sistematizar, organizarla para dar<br>confianza a nuestros clientes. Porque si<br>nosotros ponemos en el mercado productos<br>y servicios que están utilizando<br>inteligencia artificial, nuestros<br>clientes se van a preguntar, ¿y esos<br>productos y servicios que estamos<br>poniendo al mercado, ¿están cumpliendo<br>con los riesgos asociados a esa<br>inteligencia artificial? ¿Están<br>cumpliendo seguridad, cumplimiento<br>normativo, privacidad, transparencia y<br>gestión ética? Bueno, de ahí el origen<br>de esta norma ISO 42001.<br>¿Qué es la norma 42001? Bueno, pues como<br>os he adelantado, es el primer estándar<br>internacional que define cómo<br>desarrollar y utilizar la inteligencia<br>artificial de forma responsable y<br>alineada con la estrategia empresarial.<br>Esto también es muy importante. Eh, esta<br>norma define todos los requisitos que<br>debe cumplir un sistema de de gestión de<br>la inteligencia artificial y eh la<br>ventaja que tiene es que cumple con la<br>estructura de alto nivel de otras normas<br>ISO. Esto, ¿qué quiere decir? que es<br>totalmente integrable con cualquier<br>norma ISO que tengáis ahora mismo<br>vosotros certificados. Son 9,001,<br>27,001, 14, bueno, con cualquiera, ¿no?<br>14,001 incluso con cualquier norma ISO.<br>Entonces, la verdad que facilita mucho<br>el implantarla en las organizaciones. La<br>gran pregunta que nos están haciendo es,<br>¿a quién aplica, no? ¿Cuál serían las<br>empresas en las que sería interesante<br>certificar eso 42001? Bueno, pues es<br>aplicable a cualquier organización en<br>cualquier lugar del mundo, al ser<br>internacional que use o desarrolle<br>productos o servicios con inteligencia<br>artificial.<br>Esto a día de hoy no voy a decir que sea<br>prácticamente la totalidad de las<br>empresas ni mucho menos porque no<br>estamos en ese punto, pero a futuro<br>puede que sea extensible prácticamente a<br>todas las organizaciones y además de<br>ello, o sea, centrado sobre todo en<br>desarrolladores de productos y servicios<br>con inteligencia artificial es muy<br>recomendable para empresas certificadas<br>en ISO 27001 de seguridad de la<br>información o en ISO 37301<br>de sistemas de gestión de compliance.<br>¿Por qué? Porque la 42001 se vuelve como<br>un complemento en esas normas, porque<br>estas normas cuando se lanzaron no<br>estaba la inteligencia artificial al<br>nivel en el que está a día de hoy.<br>Entonces vamos a decir que son casi como<br>un complemento a estas dos normas, sobre<br>todo con ISO 27001 tiene mucho, mucho<br>sentido.<br>Los principios clave de la norma ISO<br>42000 pues son estos seis que<br>simplemente hay que tenerlos en cuenta,<br>respetarlos. ética, transparencia,<br>equidad, trazabilidad, responsabilidad y<br>gobernanza, ¿vale? Y profundizaremos<br>sobre todo en el aspecto de la<br>gobernanza. Y los beneficios que tiene<br>esta norma para cualquier organización,<br>sin duda, son reputación e imagen de<br>marca. ¿Está claro? es una norma que a<br>día de hoy pues no la tienen muchas<br>organizaciones y te daría una imagen de<br>marca potente, confianza al cliente, que<br>yo creo que cada vez más va a haber una<br>desconfianza en el desarrollo de<br>productos y servicios que lle una<br>inteligencia artificial y<br>previsiblemente eh cada vez más nos la<br>podamos encontrar como un requisito a<br>cumplir para el desarrollo de<br>determinados productos y servicios. el<br>tema de cumplimiento legal. Eh, si tú<br>tienes esta norma implantada, has tenido<br>que asegurarte cumplir con normativas<br>como puede ser LGPD, reglamento de<br>inteligencia artificial, data, etc. La<br>reducción de riesgos, como hemos visto,<br>puedes tener pues riesgos significativos<br>en el uso de inteligencia artificial,<br>innovación responsable, que esto también<br>es uno de los temas que aparecen dentro<br>de la norma y por supuesto la<br>integración con otros sistemas ISO que<br>te puede complementar.<br>La estructura de la norma la tenéis<br>aquí, es exactamente igual. Podría ser<br>decir que esto es una ISO 9001, una ISO<br>14001, es exactamente igual. Si bien eh<br>cada aspecto pues tiene algún matiz,<br>¿no? El cuatro, contexto de la<br>organización, que tendrás que definir<br>qué es inteligencia artificial, por qué<br>la quiero implantar, para quién, en qué<br>contexto regulatorio se va a mover,<br>regulatorio social se va a mover esa<br>inteligencia artificial que uso. En el<br>tema de liderazgo es muy importante<br>hablar de una cultura de la inteligencia<br>artificial responsable y para ello habrá<br>que definir políticas y asignar recursos<br>necesarios que vengan desde la alta<br>dirección. En el apartado seis<br>hablaremos del tema de identificación y<br>evaluación de riesgos, planes de<br>mitigación, tema de objetivos asociados<br>a la inteligencia artificial,<br>el soporte, el siete. Claro, ¿qué<br>necesito para que la funcione? Pues aquí<br>nos da la respuesta requisitos que<br>tendremos que cumplir respecto a<br>infraestructuras, personas,<br>competencias, roles, ¿vale? Ocho,<br>planificación y control operacional.<br>Aquí es como una norma eh similar a ISO<br>27001 que nos habla de controles<br>operacionales que tienes que implantar.<br>Si bien la vamos a decir novedad o<br>diferencia es que tienes que tener en<br>cuenta el ciclo de vida de los sistemas<br>de inteligencia artificial, es decir,<br>tendremos que plantear esa planificación<br>y esos controles operacionales desde la<br>concepción de un producto de servicio<br>que vaya a ser utilizado con<br>inteligencia artificial hasta la salida<br>del servicio, es decir, hasta la<br>retirada de ese servicio producto que<br>haya utilizado inteligencia artificial.<br>En el nueve ah tendremos que tener unos<br>buenos caps, un buen reporting, nos dará<br>la tranquilidad suficiente para saber<br>que estamos haciendo buen uso de la<br>inteligencia artificial. Y por último,<br>el de mejora, que aquí la norma ISO<br>42000 es muy consciente de la<br>singularidad de sistematizar la<br>inteligencia artificial y de de hecho<br>habla de la mejora muy enfocada a la<br>innovación, ¿no? Eh, la clave para no<br>quedarse con tecnología desactualizada o<br>gobernanza anacrónica sería una mejora<br>asociada a una innovación responsable.<br>Y ya aparte de esta estructura, también<br>la norma lleva eh unos anexos. En<br>concreto hay cuatro. En azul oscuro<br>tenéis los que son eh anexos<br>obligatorios, es decir, eh igual que eh<br>del 4 al 10 de la norma son requisitos<br>obligatorios a cumplir. Aquí nos pasa<br>que tenemos dos anexos, el anexo A y B,<br>obligatorios a cumplir con requisitos,<br>pero tenemos un anexo C y D, que son<br>informativos, ¿vale? que no tendríamos,<br>vamos a decir, por qué seguir a<br>rajatabla. Dentro de esos anexos, el<br>anexo A es el más importante y es el<br>equivalente de los controles<br>operacionales en ISO 27001 y nos habla<br>de las políticas, organización, ciclo de<br>vida, datos, relaciones con clientes,<br>controles de privacidad, es decir, todos<br>los controles que hay que seguir. Eso<br>sí, eh punto positivo, no hay tantos<br>controles como en ISO 27001. Entonces,<br>bueno, esto va a relajar bastante la<br>implantación de la norma. Y en el anexo<br>B lo que nos habla ya son de las mejores<br>prácticas para aplicar los controles que<br>están definidos en ese anexo A.<br>Entonces, bueno, pues nos habla de qué<br>controles eh podríamos aplicar y cómo y<br>sobre todo teniendo en cuenta el<br>contexto y madurez del cliente. Y sí que<br>habla también mucho de la trazabilidad.<br>Un requisito que obliga esta norma es la<br>trazabilidad entre controles y riesgos.<br>Y ya por último, elo C y D, pues bueno,<br>son informativos, nos habla de cómo<br>mapear los riesgos de inteligencia<br>artificial, cómo establecer sinergias<br>con otras normas y bueno, pues son<br>interesantes, pero es cierto que son<br>informativos.<br>Dicho esto y dicho eh la estructura, sí<br>que simplemente advertiros de que hay<br>que poner foco y lo vuelvo a repetir, en<br>el ciclo de vida y un sistema de<br>inteligencia artificial. Eso quiere<br>decir que hay que contemplar proceso<br>completo que abarca todas las fases<br>desde la concepción inicial de un<br>producto o servicio hasta su retirada.<br>Esto implica que hay que considerar<br>fases como desarrollo, implementación,<br>operación, supervisión y control y<br>retirada. Simplemente es una advertencia<br>porque sí que es algo un poco más<br>específico de esta norma ISO 42001.<br>Y ya pasamos a que mi compañera Ster nos<br>hable de los elementos clave del sistema<br>de gestión de la inteligencia<br>artificial.<br>Muchas gracias, Bea. Bueno, hablar de de<br>la implantación de la ISO 42000 no deja<br>de ser hablar también de marco de<br>gobernanza en inteligencia artificial.<br>Por por eso creíamos conveniente, ¿no?,<br>traeros unas pequeñas pinceladas de qué<br>es este marco de gobernanza en<br>inteligencia artificial, de dónde<br>partimos, qué es eh lo que nos dice la<br>normativa de inteligencia artificial<br>para entender el propósito y la<br>necesidad, ¿no?, de de implantar este<br>tipo de normativas. Partimos de la base<br>de un marco legal a nivel eh reglamento<br>de inteligencia artificial, es decir, de<br>eh completa aplicación para todos los<br>países miembros de la Unión Europea. Sí<br>que es verdad que estamos se está<br>trabajando en España en un anteproyecto<br>de ley, pero bueno, contamos ahora mismo<br>con esta base mínima en la que, bueno,<br>entre algunos conceptos, algunos<br>principios básicos está la protección de<br>los derechos y la seguridad de las<br>personas. hablamos de elementos y<br>sistemas de inteligencia artificial que<br>van a utilizar datos, que van a utilizar<br>eh<br>eh información que puede ser sensible,<br>que puede ser confidencial. fomentar con<br>eh la implantación de este tipo de<br>marcos de gobernanza la confianza y la<br>aceptación pública, lo que hablaba eh<br>Beatriz, a la hora de implantar este<br>tipo de certificaciones o de hacer este<br>tipo de marcos de gobernanza, lo que<br>hacemos es un enfoque de confianza al<br>cliente, de confianza al mercado,<br>promover la innovación y la<br>competitividad. Estamos en un mercado<br>cada vez más competitivo, donde la<br>inteligencia artificial puede ser un<br>elemento clave, pero ya está integrado<br>en nuestro día a día, como comentábamos.<br>Por lo tanto, destacar e innovar y<br>competir en un mercado tan eh ajustado<br>eh se tiene que hacer desde el punto de<br>vista legal, pero también desde un punto<br>de vista ético. Prevenir riesgos y daños<br>y facilitar, ¿no?, este mercado único<br>digital, pero siempre desde el punto de<br>vista de de la seguridad y la<br>salvaguarda de los derechos<br>fundamentales.<br>Bien, eh como comentaba Beatriz antes,<br>¿no?, Esta marco de gobernanza, esta<br>aplicación de la normativa es que afecta<br>a todos los sectores, a todos los<br>ámbitos, desde el proveedor hasta el<br>distribuidor, el usuario del sistema de<br>inteligencia artificial, todos de una<br>forma u otra nos vemos afectados por<br>este esta aplicación de la de la<br>normativa del reglamento de inteligencia<br>artificial y por ende eh todas las<br>empresas o la mayor parte de las<br>empresas que h apliquen de forma eh más<br>agresiva o menos agresiva el uso de<br>estos sistemas de inteligencia<br>artificial se van a ver abocados ya no a<br>a quizá a la implementación de este tipo<br>de certificaciones que no son<br>obligatorias, pero sí son muy<br>recomendables, pero sí que eh van a<br>verse obligados a desarrollar este marco<br>de gobernanza en inteligencia<br>artificial. Por lo tanto, eh las<br>obligaciones, ¿no? El el ámbito eh<br>obligacional que recoge esta normativa<br>no solamente va desde o bueno, h<br>clasifica, ¿no?, este tipo de de<br>inteligencia artificial en varios tipos.<br>En pantalla veis un gráfico que nos<br>gusta mucho utilizar porque es muy muy<br>visual y podemos eh definir muy<br>claramente aquellos sistemas de<br>inteligencia artificial que quedan<br>afectos por el marco de gobernanza, como<br>pueden ser la inteligencia artificial<br>generativa, la inteligencia artificial<br>con riesgo limitado, es decir, aquella<br>que bueno eh no supone un riesgo para<br>los derechos eh derechos fundamentales<br>de los de los individuos que no supone<br>merma a la seguridad. Pero bueno, hay<br>que tener determinadas cautelas y<br>determinadas medidas de seguridad.<br>Tenemos también los sistemas de altos<br>riesgos que sí que venectos eh<br>determinados derechos fundamentales y<br>que por lo tanto eh tenemos que tener<br>muy medidos tanto en la el el análisis<br>del riesgo e las medidas de seguridad a<br>implementar. Y en este punto<br>consideramos que es quizá eh tras hacer<br>este análisis, si nuestras empresas<br>determinamos que se encuentran en alto<br>riesgo, la implementación de una<br>certificación como la ISO 42,000 puede<br>ser clave en este punto. ¿Por qué?<br>porque garantizamos que todas las<br>medidas aplicables eh por la normativa<br>se están aplicando a los sistemas, se<br>está aplicando al uso y por lo tanto<br>tenemos también esa fuerza, ese empuje,<br>esa eh mitigación al riesgo que eh puede<br>ser fundamental. Por último, las los<br>sistemas de inteligencia artificial de<br>riesgo inaceptable, aquellos sistemas<br>que no se permiten en la Unión Europea<br>utilizar, como veremos a continuación en<br>la siguiente eh diapositiva,<br>eh que afectan a derechos fundamentales<br>y que son eh sistemas eh prohibidos,<br>riesgos, o sea, retos a los que nos<br>enfrentamos desde el punto de vista<br>ético y legal con el uso de la IA y con<br>la implantación de estos marcos de<br>gobernanza. Bueno, pues ahí lo ves en<br>pantalla, tanto riesgos éticos como<br>legales. Éticos desde el punto de vista<br>de la posibilidad de de sesgos, de la<br>implantación de sesgos en estos<br>sistemas, la influencia en la toma de<br>decisiones de los usuarios y lo estamos<br>viviendo día a día los deep fakes. Eh,<br>aquello eh el punto delimitador entre lo<br>que es real y no es real cada día está<br>más difuminado. Desde el punto de vista<br>legal, lo comentábamos con cuando<br>citábamos la ISO en diapositivas<br>anteriores, el cumplimiento normativo,<br>el cumplimiento de privacidad, de<br>seguridad quedan afectos a todas estas<br>medidas, a todo este marco de gobernanza<br>y por lo tanto la privacidad, la los<br>derechos de propiedad intelectual,<br>industrial quedan afectos y hay que<br>tener en cuenta las medidas de seguridad<br>y sobre todo el impacto laboral.<br>En cuanto a la gobernanza<br>organizacional, se basa en cuatro<br>pilares fundamentales, como puede ser eh<br>el código de uso responsable de la IA,<br>es decir, establecer un código marco que<br>eh defina políticas claras para la<br>empresa, que aseguren que todo el uso de<br>sistemas eh de inteligencia artificial<br>es ético y responsable y sobre todo y<br>muy importante, mitigar riesgos y sesgos<br>a la hora de implantar y de utilizar<br>estos sistemas. Establecer un comité de<br>inteligencia artificial que desarrolle<br>los casos de uso, que cuente con<br>políticas claras de implementación y que<br>genere entornos de confianza, asegurando<br>el cumplimiento del código de uso<br>responsable y fomentando en la empresa<br>la eh la cultura de aprendizaje<br>continuo. ¿Por qué? Porque uno de los<br>pilares fundamentales del Reglamento de<br>Inteligencia Artificial y que debe eh<br>debe eh contener el marco de gobernanza<br>es la alfabetización. es la primera<br>norma eh a nivel eh Unión Europea que ya<br>no habla de formar, sino que habla de<br>alfabetizar en eh en inteligencia<br>artificial cada capacitando a cada uno<br>en su nivel y cada uno en sus<br>responsabilidades de todos los<br>trabajadores de las empresas en la la<br>funcionabilidad, pero también la<br>concienciación de la de la buena<br>práctica o de la buena de los buenos<br>usos de la de la inteligencia<br>artificial. Y por último, el registro<br>inventario de los sistemas de<br>inteligencia artificial y de las<br>actividades de alfabetización, de forma<br>que evidenciemos y justifiquemos que<br>efectivamente se están llevando a cabo<br>las medidas de gobernanza de de IA,<br>gestión de riesgos y oportunidades. Como<br>comentábamos antes en la slide de la que<br>mencionab de sistemas de inteligencia<br>artificial y la clasificación de los<br>mismos, el último punto, el que estaba<br>marcado de rojo, hablaba de<br>prohibiciones en el ámbito de la de la<br>sistemas de inteligencia artificial. En<br>esta diapositiva os presentamos a modo<br>de resumen los eh ocho bloques de eh<br>sistemas prohibidos como pueden ser eh<br>la prohibición de clasificación eh de<br>las personas basándose en<br>características personales o sociales,<br>la manipulación subliminal del<br>comportamiento de las personas, la<br>identificación biométrica, es decir, son<br>aspectos tan sensibles que el uso de la<br>inteligencia artificial puede suponer<br>una merma significativa e importantísima<br>en los derechos fundamentales de las<br>personas. Por lo tanto, se prohíbe eh<br>categóricamente el uso de este tipo de<br>sistemas de inteligencia artificial y se<br>deben de tener en cuenta a la hora de<br>primero hacer el análisis de riesgo y<br>segundo a la hora de hacer el marco de<br>gobernanza de la IA e implementar<br>posteriormente los sistemas y los y las<br>certificaciones en nuestras empresas.<br>¿Por qué? Porque si nuestras empresas o<br>nuestros sistemas se catalogan dentro de<br>uno de estos de estos tipos de sistema<br>de inteligencia artificial,<br>evidentemente la certificación no va a<br>llegar a ningún punto.<br>Aquí eh pasamos muy rápido, hablamos de<br>la propiedad intelectual, tanto de los<br>outputs, eh la diferenciación, ¿no?,<br>entre crear con IA y crear por IA. Esto<br>va a tener mucho impacto y se va a tener<br>que analizar dentro de este eh marco de<br>gobernanza, categorizando si nuestros<br>sistemas de IA o nuestra forma de<br>utilizar eh la IA es creando por o eh<br>crear con. La diferencia es notable y<br>bueno, este tema da para varias horas de<br>comentar, tenemos poquito tiempo, pero<br>eh bueno, es importante que tengáis en<br>mente la diferenciación entre crear con<br>y crear por.<br>Lo mismo hablamos de infracción de<br>derechos de propiedad intelectual, que<br>también se van a tener que tener en<br>cuenta en este marco de gobernanza. Y si<br>continuamos eh más eh para adelante,<br>hablamos de las oportunidades.<br>Oportunidades, por supuesto que hay<br>oportunidades, no todo es negativo ni eh<br>todo lo contrario. El uso de la<br>inteligencia artificial nos sirve para<br>automatizar, para la satisfacción de los<br>propios empleados. ¿Por qué? Porque<br>mejora la experiencia laboral y sobre<br>todo eh permite que eh sea un<br>complemento a nuestras tareas. pasamos<br>las tareas más eh auxiliares o<br>administrativas y utilizamos eh uy,<br>perdón, y utilizamos eh estos sistemas<br>de inteligencia artificial y la<br>colaboración, las sinergias eh permite<br>crear organizaciones más resilientes,<br>transformar integralmente las<br>organizaciones. Es una oportunidad<br>espectacular.<br>Y ya por último hablamos de la<br>importancia del marco de gobernanza y la<br>eh trazabilidad y la interconexión con<br>otras normativas como puede ser el<br>Reglamento General de Protección de<br>Datos y la Dataact que van muy a la<br>mano. Eh, tenemos que tener en cuenta<br>que la inteligencia artificial utiliza<br>datos y utiliza datos personales. La<br>diferenciación es importante, por lo<br>tanto, tenemos que tenerla en cuenta y<br>se va a tener que tener en cuenta a la<br>hora de hacer el marco de gobernanza y<br>de implementar la certificación. eh la<br>ISO 42,000.<br>Vale, por último, eh, ¿qué debemos<br>hacer? ¿Cuál es el procedimiento? pues<br>debemos de empezar por un análisis de de<br>nuestro sistema de inteligencia<br>artificial y sobre todo la viabilidad<br>del mismo, teniendo en cuenta lo que<br>hemos comentado anteriormente de las<br>prohibiciones de uso y si eh nuestro<br>sistema de IA es de alto riesgo. tenemos<br>que llevar a cabo el despliegue de la<br>misma bajo siempre supervisión humana y<br>a través de un registro inventario de<br>los sistemas de inteligencia artificial,<br>por supuesto, alfabetizando y<br>concienciando a nuestros trabajadores,<br>monitorizando el uso y las eh la<br>correcta aplicación de las medidas<br>establecidas en el marco de gobernanza<br>y, por supuesto, mejora continua y<br>auditoría interna de todo lo que se ha<br>desarrollado, estableciendo un plan de<br>auditoría anual y registrando, por<br>supuesto, los eh los resultados ados de<br>forma que se pueda mejorar y se pueda eh<br>sobre todo tener una trazabilidad de<br>todas estas mejoras.<br>La inteligencia artificial es una<br>oportunidad. La gobernanza de esta<br>inteligencia artificial es el marco que<br>pasa de eh ser simplemente un sistema a<br>ser un sistema con valor y que aporte<br>valor a nuestra empresa. Por lo tanto,<br>es importantísimo tenerlo en cuenta si<br>estamos utilizando inteligencia<br>artificial.<br>Muy bien. Pues ahora eh por último<br>rápidamente en las empresas que<br>realmente quisierais<br>serían eh los pasos a seguir.<br>Bueno, pues eh habría distintas fases,<br>habría que superar cinco fases antes de<br>llegar a una sexta para certificar, ¿no?<br>Eh, lo primero que tendríamos que hacer<br>es ese diagnóstico inicial de contexto,<br>identificación del ciclo de vida del<br>sistema de inteligencia artificial. Eso<br>es muy importante y al final es donde<br>defiendes el alcance y lo que venía a<br>ser el documento de aplicabilidad<br>similar a lo que se hace en una ISO<br>27001. En segundo momento hay que<br>identificar y evaluar los riesgos y<br>oportunidades positivo y negativo<br>siempre de lo que es el uso de la<br>inteligencia artificial. Fase tres, el<br>diseño del sistema de gestión de<br>inteligencia artificial. Pues lo mismo<br>que en otros sistemas de gestión. Habrá<br>que definir esos procesos y el modelo de<br>gobernanza. Fase cuatro, implementamos y<br>capacitamos lo que nos comentaba Eser de<br>la alfabetización. Entraría en esta fase<br>cuatro, fase cinco, hacemos esa<br>auditoría interna y ya podríamos pasar a<br>una certificación externa por una<br>entidad acreditada. Consejos para<br>superar con éxito la certificación<br>liderazgo. Hay que contar con el apoyo<br>de la alta dirección para crear esa<br>cultura de uso de ella responsable. Eso<br>es muy importante. Sinergias. Aprovecha<br>otros sistemas de gestión. Otros<br>sistemas de gestión que tengas ya<br>certificados. prioriza, comienza por los<br>apartados del cuatro al seis, contexto,<br>liderazgo y planificación porque son los<br>que definen el marco de juego. Valor<br>añadido. Eh, es importante establecer en<br>los diagnósticos no solo desde un<br>componente técnico puramente, sino<br>también valorar otros temas como<br>madurez, ética y capacidad de<br>gobernanza. Y por último, mejora<br>continua. revisa la evolución porque la<br>inteligencia artificial es constante la<br>evolución que tiene para asegurarte de<br>que no se queda desactualizado y que se<br>usan innovación responsable.<br>Con esto ya finalizamos el webinar. Eh,<br>el futuro pertenece a quienes gobiernan<br>la IA. recordar, no queremos eh llegar a<br>escena Terminator y ese futuro empieza<br>hoy. Por ello, nos ofrecemos desde<br>Integra, dentro de nuestro propósito,<br>escuchamos para crear progreso<br>integrando tecnología y conocimiento<br>para ayudar a todas aquellas empresas<br>que cojan el reto de implantar esta ISO<br>42001<br>Y ahora ya dudas y preguntas si hay<br>alguna<br>por aquí.<br>Muchas gracias, chicas. Creo que sí<br>estoy entrando por ahí. idea. Eh, podéis<br>en el panel de preguntas podéis<br>escribirnos las las consultas que<br>tengáis a vuestra derecha.<br>Sí, pregunta una persona, crear por o<br>crear con, ¿podéis poner un ejemplo?<br>Aquí, por ejemplo, la clave está en si<br>ha habido una intervención humana<br>significativa desde el punto de vista de<br>la originalidad y del trabajo en la<br>implantación o en la el desarrollo de<br>los prompts o no. Por ejemplo, si<br>nosotros utilizamos CHGPT, incluimos un<br>único PROMT, ahí estaríamos hablando de<br>creación por IA. ¿Por qué? Porque<br>realmente no ha habido un trabajo o no<br>ha habido una creación, no ha habido una<br>originalidad por parte de la persona<br>física, de persona humana y por lo tanto<br>la propiedad, por así decirlo, no<br>estaría eh en nuestras manos, ¿vale? Sin<br>embargo, si se demuestra que hay un<br>trabajo, que hay diferentes eh proms,<br>que hay un listado de proms trabajados<br>que hemos puesto, hemos respondido,<br>hemos vuelto a matizar, ahí podría<br>considerarse que es eh bueno, un<br>resultado creado con la IA. ¿Por qué?<br>Porque la herramienta a través de la<br>cual hemos obtenido el resultado es la<br>IA, pero el el conocimiento e la<br>originalidad parten física, de la<br>persona humana. Entonces, eso es<br>importante eh hacer la distinción y<br>muchas veces es el caso a caso, es<br>analizar el caso a caso para determinar<br>si estamos ante una creación con IA o<br>una creación por IA.<br>Muchas gracias, Ester. Sí, otra persona<br>nos pregunta un dato para diferenciar<br>crear con IA y crear por IA, que creo<br>que lo has contestado eh ahora mismo.<br>Otra persona pregunta, ¿esta norma<br>certifica la organización o<br>productos/preectos?<br>Sí. Eh, esta norma eh está pensada para<br>certificar lo que es la organización, o<br>sea, que tienes un sistema de gestión<br>que contempla eh el cómo tú concibes la<br>inteligencia artificial dentro de tus<br>productos y servicios, ¿vale? Y cómo lo<br>desarrollas. Si bien deciros que están<br>generándose unas normas específicas para<br>certificar solo lo que es producto<br>proyecto, ¿vale? para un producto<br>proyecto en concreto, que también se<br>están lanzando normas específicas para<br>esto.<br>No, aquí aquí deciros que desde Integra<br>realmente tenemos programas formativos<br>específicos para inteligencia<br>artificial. De hecho, eh comentaba al<br>principio la presentación que Integra<br>tiene cuatro líneas de negocio:<br>consultoría, tecnología, formación y<br>hostelería. En la línea de negocio de<br>formación damos tanto formación<br>presencial, damos formación online, eh<br>tenemos plataforma propia que se llama<br>Virtuos para eh que las empresas puedan<br>eh dar píldoras formativas sobre<br>inteligencia artificial eh a sus<br>trabajadores. Entonces, bueno, pues<br>podemos pasar más información a la<br>persona que ha preguntado, le podemos<br>pasar más información sobre estas<br>formaciones específicas.<br>Perfecto. Sí, gracias. Vea, os<br>pasaremos, nos dan las gracias o os<br>pasaremos los los datos de de la persona<br>que ha preguntado esto por si queréis eh<br>profundizar individualmente con ella.<br>Eh, de momento no hay más preguntas, lo<br>dicho, ahora saltará esa pequeña<br>encuesta donde si queréis profundizar en<br>este tema con Ester y con Bea, pues<br>podéis indicarlo ahí. Y muchas gracias a<br>todos y y nos vemos muy pronto.<br>Muchas gracias.<br>Muchas gracias a todos.<br>Gracias.