Eh, como algunos de vosotros a lo mejor
no nos conocéis, sí que queremos hacer
una presentación de lo que es Integra.
Eh, ¿qué es Integra? Pues Integra es una
consultora especializada en acelerar
resultados de nuestros clientes a través
de la integración de tecnología y
conocimiento. Y de hecho este webinar es
un claro ejemplo de la combinación de la
tecnología y el conocimiento. Tenemos
presencia a nivel nacional distintas
sedes ubicadas en distintas ciudades de
España. Somos una empresa de origen
familiar con más de 850 personas y 33
unidades de negocio.
Tenemos cuatro líneas de negocio
diferenciadas, la línea de negocio de
consultoría, la línea de negocio de
tecnología, línea de negocio de
formación y la línea de negocio de
hostelería.
E tenemos alianzas con distintos
fabricantes como Microsoft, IBM, Amazon,
SF, SGE, Factorial, Lenovo, Fortinet. Y
en este caso, este webinar lo impartimos
desde la división de consultoría, en la
que lo formamos más de 100 profesionales
expertos en temas de excelencia,
gestión, operaciones, tecnologías de la
información y derecho digital. De hecho,
este webinar me acompaña mi compañera
STER, que es especialista en el ámbito
del derecho digital.
Dentro de consultoría conformamos eh
distintas áreas de negocio, como podéis
ver aquí, consultoría estratégica,
consultoría de operaciones en la que nos
centramos también en los sistemas de
gestión certificados, como puede ser
esta norma ISO 42001, la parte de
consultoría legal en la que eh hablamos
de gobernanza legal de la IA y de hecho
en este webinar vamos a hablar de
gobernanza legal de la IA porque es uno
de los aspectos fundamentales en los que
se centra esta norma ISO 42001.
Eh, también tenemos la parte de
consultoría de personas, estrategia de
clientes, marketing y la parte de
consultoría de transformación.
Y ya sin más dilación vamos a ver qué en
qué nos vamos a centrar en este webinar.
¿Qué vamos a ver? Pues os proponemos eh
cinco apartados. Primero hablaremos de
la situación actual, la era de la
inteligencia artificial. Un poco
reflexión en el momento en el que
estamos. Después hablaremos de eh qué es
la norma ISO 402001, sus elementos
fundamentales, estructura, qué
beneficios tiene. Después pasaremos a
profundizar en los elementos clave de la
ISO 42001. Y aquí hemos elegido cuatro
elementos clave que os queremos eh
contar eh y que lo mi compañera Ster
profundizará en ellos. Luego, después de
haber hablado de estos elementos clave,
os diremos cómo deberíamos, en caso de
que quisiéramos ir hacia una
certificación, cuál es el camino a
seguir. Y ya por último, eh, como os ha
dicho mi compañera, tenemos un panel de
dudas y preguntas en el que podéis
lanzar cualquier pregunta, cualquier
consulta, si no la podemos contestar en
este webinar. No os preocupéis porque
posteriormente contestaremos a todas las
dudas y preguntas que estén planteadas
en el chat.
Así que empezamos.
Sitación actual, la era de la
inteligencia artificial. Y aquí yo creo
que casi es indiscutible el hecho de que
hoy en día vemos noticias constantemente
en en prensa, en internet, me llegan al
teléfono móvil, estamos rodeados de
información y hay muchísimas noticias
relacionadas con el tema de inteligencia
artificial. Estas noticias a veces son
en positivo, como nos ayudan a ganar en
eficiencia, en productividad, en el
procesamiento de la información y otras
veces pues es verdad que no son tan en
positivo, no son noticias un tanto
alarmistas de como por ejemplo las que
tenéis aquí, que os he puesto unos
ejemplos de pues el uso de imágenes
falsas utilizadas en algunos casos pues
para fines no muy lícitos, ¿no? O no muy
éticos. el tema de las advertencias,
¿no? Por ejemplo, del jefe de seguridad
del Reino Unido advirtiendo de los
peligros de la inteligencia artificial o
como incluso extrabajadores de las
propias empresas que eh gestionan eh
inteligencia artificial, como puede ser
Opene o Google, nos hablan de los
riesgos que ellos han visto en el uso de
la inteligencia artificial. Esto es una
realidad. La IA ha venido para quedarse
y tenemos que convivir con ella, con sus
luces y con sus sombras.
De hecho, si vemos cuál ha sido la
proyección de la inteligencia artificial
en los últimos años, desde 1950, que fue
cuando se empezó a plantear o cuando nos
empezamos a plantear si las máquinas son
capaces de pensar. Esto ocurrió en ese
año por Alan Turing hasta el día de hoy
en el que hemos conseguido eh utilizar
modelos y agentes de inteligencia
artificial generativa y hemos llegado a
un momento de regulación de la
inteligencia artificial cuando hemos
visto que estos avances, como veis aquí
a lo largo de los años, han sido de una
manera tan exponencial que incluso ha
podido sorprender a los propios, vamos a
decir, originarios, ¿no? O promotores de
la inteligencia artificial. Ahora, a día
de hoy, podemos decir que el reto actual
no es usar la inteligencia artificial,
que está instaurada, vamos a decir, eh,
casi con normalidad, sino gobernarla con
responsabilidad y confianza. ¿Por qué?
Porque lo que no queremos es
convertirnos, ¿no?, en que la como la
película esta de Terminator eh, llegue a
hacerse realidad, ¿no? A que realmente
la inteligencia artificial nos llegue a
gobernar a nosotros y no al revés, que
nosotros seamos capaces de gobernar la
inteligencia artificial.
Dicho esto, y aquí vais a entender muy
bien y vamos a ver eh por qué, ¿no?, el
porqué de esta norma ISO 42001.
¿Por qué surge la norma ISO 42001?
Bueno, eh primero matizar eh que esta
norma es una norma internacional que ya
surgió en el 2023 y cuando hablamos de
ISO 42001 2025, por eso hablamos de la
la nueva norma ISO 40 y 2001 es la
traducción al español y por eso lleva
UNE de la norma internacional, ¿vale?
Entonces ahora mismo de la que estamos
hablando es de la UNISO IEC 420012025.
Esta norma ha surgido para ayudar a las
organizaciones a desempeñar de forma
responsable su papel con respecto a los
sistemas de inteligencia artificial,
todos los sistemas que se están
utilizando en las organizaciones. En
definitiva, nace para dar respuesta a
los riesgos asociados a la inteligencia
artificial que los sistemas
tradicionales no contemplan, ¿vale? Esos
riesgos asociados a temas de seguridad
en el uso de la IA, de cumplimiento
normativo, luego veremos. Mi compañero
os contara que hay mucho cumplimiento
normativo relativo a la inteligencia
artificial, tema de privacidad,
tema de transparencia, realmente esa
información de dónde está viniendo y qué
origen tiene. Y sobre todo el tema
ético, si realmente la estamos usando
para un buen fin o para fines pues que
no son pues lo que vamos a decir pues
debería de ser. Al final hay tantos
riesgos asociados al uso de inteligencia
artificial que esta norma ha sido
necesaria y se ha visto esa necesidad de
sistematizar, organizarla para dar
confianza a nuestros clientes. Porque si
nosotros ponemos en el mercado productos
y servicios que están utilizando
inteligencia artificial, nuestros
clientes se van a preguntar, ¿y esos
productos y servicios que estamos
poniendo al mercado, ¿están cumpliendo
con los riesgos asociados a esa
inteligencia artificial? ¿Están
cumpliendo seguridad, cumplimiento
normativo, privacidad, transparencia y
gestión ética? Bueno, de ahí el origen
de esta norma ISO 42001.
¿Qué es la norma 42001? Bueno, pues como
os he adelantado, es el primer estándar
internacional que define cómo
desarrollar y utilizar la inteligencia
artificial de forma responsable y
alineada con la estrategia empresarial.
Esto también es muy importante. Eh, esta
norma define todos los requisitos que
debe cumplir un sistema de de gestión de
la inteligencia artificial y eh la
ventaja que tiene es que cumple con la
estructura de alto nivel de otras normas
ISO. Esto, ¿qué quiere decir? que es
totalmente integrable con cualquier
norma ISO que tengáis ahora mismo
vosotros certificados. Son 9,001,
27,001, 14, bueno, con cualquiera, ¿no?
14,001 incluso con cualquier norma ISO.
Entonces, la verdad que facilita mucho
el implantarla en las organizaciones. La
gran pregunta que nos están haciendo es,
¿a quién aplica, no? ¿Cuál serían las
empresas en las que sería interesante
certificar eso 42001? Bueno, pues es
aplicable a cualquier organización en
cualquier lugar del mundo, al ser
internacional que use o desarrolle
productos o servicios con inteligencia
artificial.
Esto a día de hoy no voy a decir que sea
prácticamente la totalidad de las
empresas ni mucho menos porque no
estamos en ese punto, pero a futuro
puede que sea extensible prácticamente a
todas las organizaciones y además de
ello, o sea, centrado sobre todo en
desarrolladores de productos y servicios
con inteligencia artificial es muy
recomendable para empresas certificadas
en ISO 27001 de seguridad de la
información o en ISO 37301
de sistemas de gestión de compliance.
¿Por qué? Porque la 42001 se vuelve como
un complemento en esas normas, porque
estas normas cuando se lanzaron no
estaba la inteligencia artificial al
nivel en el que está a día de hoy.
Entonces vamos a decir que son casi como
un complemento a estas dos normas, sobre
todo con ISO 27001 tiene mucho, mucho
sentido.
Los principios clave de la norma ISO
42000 pues son estos seis que
simplemente hay que tenerlos en cuenta,
respetarlos. ética, transparencia,
equidad, trazabilidad, responsabilidad y
gobernanza, ¿vale? Y profundizaremos
sobre todo en el aspecto de la
gobernanza. Y los beneficios que tiene
esta norma para cualquier organización,
sin duda, son reputación e imagen de
marca. ¿Está claro? es una norma que a
día de hoy pues no la tienen muchas
organizaciones y te daría una imagen de
marca potente, confianza al cliente, que
yo creo que cada vez más va a haber una
desconfianza en el desarrollo de
productos y servicios que lle una
inteligencia artificial y
previsiblemente eh cada vez más nos la
podamos encontrar como un requisito a
cumplir para el desarrollo de
determinados productos y servicios. el
tema de cumplimiento legal. Eh, si tú
tienes esta norma implantada, has tenido
que asegurarte cumplir con normativas
como puede ser LGPD, reglamento de
inteligencia artificial, data, etc. La
reducción de riesgos, como hemos visto,
puedes tener pues riesgos significativos
en el uso de inteligencia artificial,
innovación responsable, que esto también
es uno de los temas que aparecen dentro
de la norma y por supuesto la
integración con otros sistemas ISO que
te puede complementar.
La estructura de la norma la tenéis
aquí, es exactamente igual. Podría ser
decir que esto es una ISO 9001, una ISO
14001, es exactamente igual. Si bien eh
cada aspecto pues tiene algún matiz,
¿no? El cuatro, contexto de la
organización, que tendrás que definir
qué es inteligencia artificial, por qué
la quiero implantar, para quién, en qué
contexto regulatorio se va a mover,
regulatorio social se va a mover esa
inteligencia artificial que uso. En el
tema de liderazgo es muy importante
hablar de una cultura de la inteligencia
artificial responsable y para ello habrá
que definir políticas y asignar recursos
necesarios que vengan desde la alta
dirección. En el apartado seis
hablaremos del tema de identificación y
evaluación de riesgos, planes de
mitigación, tema de objetivos asociados
a la inteligencia artificial,
el soporte, el siete. Claro, ¿qué
necesito para que la funcione? Pues aquí
nos da la respuesta requisitos que
tendremos que cumplir respecto a
infraestructuras, personas,
competencias, roles, ¿vale? Ocho,
planificación y control operacional.
Aquí es como una norma eh similar a ISO
27001 que nos habla de controles
operacionales que tienes que implantar.
Si bien la vamos a decir novedad o
diferencia es que tienes que tener en
cuenta el ciclo de vida de los sistemas
de inteligencia artificial, es decir,
tendremos que plantear esa planificación
y esos controles operacionales desde la
concepción de un producto de servicio
que vaya a ser utilizado con
inteligencia artificial hasta la salida
del servicio, es decir, hasta la
retirada de ese servicio producto que
haya utilizado inteligencia artificial.
En el nueve ah tendremos que tener unos
buenos caps, un buen reporting, nos dará
la tranquilidad suficiente para saber
que estamos haciendo buen uso de la
inteligencia artificial. Y por último,
el de mejora, que aquí la norma ISO
42000 es muy consciente de la
singularidad de sistematizar la
inteligencia artificial y de de hecho
habla de la mejora muy enfocada a la
innovación, ¿no? Eh, la clave para no
quedarse con tecnología desactualizada o
gobernanza anacrónica sería una mejora
asociada a una innovación responsable.
Y ya aparte de esta estructura, también
la norma lleva eh unos anexos. En
concreto hay cuatro. En azul oscuro
tenéis los que son eh anexos
obligatorios, es decir, eh igual que eh
del 4 al 10 de la norma son requisitos
obligatorios a cumplir. Aquí nos pasa
que tenemos dos anexos, el anexo A y B,
obligatorios a cumplir con requisitos,
pero tenemos un anexo C y D, que son
informativos, ¿vale? que no tendríamos,
vamos a decir, por qué seguir a
rajatabla. Dentro de esos anexos, el
anexo A es el más importante y es el
equivalente de los controles
operacionales en ISO 27001 y nos habla
de las políticas, organización, ciclo de
vida, datos, relaciones con clientes,
controles de privacidad, es decir, todos
los controles que hay que seguir. Eso
sí, eh punto positivo, no hay tantos
controles como en ISO 27001. Entonces,
bueno, esto va a relajar bastante la
implantación de la norma. Y en el anexo
B lo que nos habla ya son de las mejores
prácticas para aplicar los controles que
están definidos en ese anexo A.
Entonces, bueno, pues nos habla de qué
controles eh podríamos aplicar y cómo y
sobre todo teniendo en cuenta el
contexto y madurez del cliente. Y sí que
habla también mucho de la trazabilidad.
Un requisito que obliga esta norma es la
trazabilidad entre controles y riesgos.
Y ya por último, elo C y D, pues bueno,
son informativos, nos habla de cómo
mapear los riesgos de inteligencia
artificial, cómo establecer sinergias
con otras normas y bueno, pues son
interesantes, pero es cierto que son
informativos.
Dicho esto y dicho eh la estructura, sí
que simplemente advertiros de que hay
que poner foco y lo vuelvo a repetir, en
el ciclo de vida y un sistema de
inteligencia artificial. Eso quiere
decir que hay que contemplar proceso
completo que abarca todas las fases
desde la concepción inicial de un
producto o servicio hasta su retirada.
Esto implica que hay que considerar
fases como desarrollo, implementación,
operación, supervisión y control y
retirada. Simplemente es una advertencia
porque sí que es algo un poco más
específico de esta norma ISO 42001.
Y ya pasamos a que mi compañera Ster nos
hable de los elementos clave del sistema
de gestión de la inteligencia
artificial.
Muchas gracias, Bea. Bueno, hablar de de
la implantación de la ISO 42000 no deja
de ser hablar también de marco de
gobernanza en inteligencia artificial.
Por por eso creíamos conveniente, ¿no?,
traeros unas pequeñas pinceladas de qué
es este marco de gobernanza en
inteligencia artificial, de dónde
partimos, qué es eh lo que nos dice la
normativa de inteligencia artificial
para entender el propósito y la
necesidad, ¿no?, de de implantar este
tipo de normativas. Partimos de la base
de un marco legal a nivel eh reglamento
de inteligencia artificial, es decir, de
eh completa aplicación para todos los
países miembros de la Unión Europea. Sí
que es verdad que estamos se está
trabajando en España en un anteproyecto
de ley, pero bueno, contamos ahora mismo
con esta base mínima en la que, bueno,
entre algunos conceptos, algunos
principios básicos está la protección de
los derechos y la seguridad de las
personas. hablamos de elementos y
sistemas de inteligencia artificial que
van a utilizar datos, que van a utilizar
eh
eh información que puede ser sensible,
que puede ser confidencial. fomentar con
eh la implantación de este tipo de
marcos de gobernanza la confianza y la
aceptación pública, lo que hablaba eh
Beatriz, a la hora de implantar este
tipo de certificaciones o de hacer este
tipo de marcos de gobernanza, lo que
hacemos es un enfoque de confianza al
cliente, de confianza al mercado,
promover la innovación y la
competitividad. Estamos en un mercado
cada vez más competitivo, donde la
inteligencia artificial puede ser un
elemento clave, pero ya está integrado
en nuestro día a día, como comentábamos.
Por lo tanto, destacar e innovar y
competir en un mercado tan eh ajustado
eh se tiene que hacer desde el punto de
vista legal, pero también desde un punto
de vista ético. Prevenir riesgos y daños
y facilitar, ¿no?, este mercado único
digital, pero siempre desde el punto de
vista de de la seguridad y la
salvaguarda de los derechos
fundamentales.
Bien, eh como comentaba Beatriz antes,
¿no?, Esta marco de gobernanza, esta
aplicación de la normativa es que afecta
a todos los sectores, a todos los
ámbitos, desde el proveedor hasta el
distribuidor, el usuario del sistema de
inteligencia artificial, todos de una
forma u otra nos vemos afectados por
este esta aplicación de la de la
normativa del reglamento de inteligencia
artificial y por ende eh todas las
empresas o la mayor parte de las
empresas que h apliquen de forma eh más
agresiva o menos agresiva el uso de
estos sistemas de inteligencia
artificial se van a ver abocados ya no a
a quizá a la implementación de este tipo
de certificaciones que no son
obligatorias, pero sí son muy
recomendables, pero sí que eh van a
verse obligados a desarrollar este marco
de gobernanza en inteligencia
artificial. Por lo tanto, eh las
obligaciones, ¿no? El el ámbito eh
obligacional que recoge esta normativa
no solamente va desde o bueno, h
clasifica, ¿no?, este tipo de de
inteligencia artificial en varios tipos.
En pantalla veis un gráfico que nos
gusta mucho utilizar porque es muy muy
visual y podemos eh definir muy
claramente aquellos sistemas de
inteligencia artificial que quedan
afectos por el marco de gobernanza, como
pueden ser la inteligencia artificial
generativa, la inteligencia artificial
con riesgo limitado, es decir, aquella
que bueno eh no supone un riesgo para
los derechos eh derechos fundamentales
de los de los individuos que no supone
merma a la seguridad. Pero bueno, hay
que tener determinadas cautelas y
determinadas medidas de seguridad.
Tenemos también los sistemas de altos
riesgos que sí que venectos eh
determinados derechos fundamentales y
que por lo tanto eh tenemos que tener
muy medidos tanto en la el el análisis
del riesgo e las medidas de seguridad a
implementar. Y en este punto
consideramos que es quizá eh tras hacer
este análisis, si nuestras empresas
determinamos que se encuentran en alto
riesgo, la implementación de una
certificación como la ISO 42,000 puede
ser clave en este punto. ¿Por qué?
porque garantizamos que todas las
medidas aplicables eh por la normativa
se están aplicando a los sistemas, se
está aplicando al uso y por lo tanto
tenemos también esa fuerza, ese empuje,
esa eh mitigación al riesgo que eh puede
ser fundamental. Por último, las los
sistemas de inteligencia artificial de
riesgo inaceptable, aquellos sistemas
que no se permiten en la Unión Europea
utilizar, como veremos a continuación en
la siguiente eh diapositiva,
eh que afectan a derechos fundamentales
y que son eh sistemas eh prohibidos,
riesgos, o sea, retos a los que nos
enfrentamos desde el punto de vista
ético y legal con el uso de la IA y con
la implantación de estos marcos de
gobernanza. Bueno, pues ahí lo ves en
pantalla, tanto riesgos éticos como
legales. Éticos desde el punto de vista
de la posibilidad de de sesgos, de la
implantación de sesgos en estos
sistemas, la influencia en la toma de
decisiones de los usuarios y lo estamos
viviendo día a día los deep fakes. Eh,
aquello eh el punto delimitador entre lo
que es real y no es real cada día está
más difuminado. Desde el punto de vista
legal, lo comentábamos con cuando
citábamos la ISO en diapositivas
anteriores, el cumplimiento normativo,
el cumplimiento de privacidad, de
seguridad quedan afectos a todas estas
medidas, a todo este marco de gobernanza
y por lo tanto la privacidad, la los
derechos de propiedad intelectual,
industrial quedan afectos y hay que
tener en cuenta las medidas de seguridad
y sobre todo el impacto laboral.
En cuanto a la gobernanza
organizacional, se basa en cuatro
pilares fundamentales, como puede ser eh
el código de uso responsable de la IA,
es decir, establecer un código marco que
eh defina políticas claras para la
empresa, que aseguren que todo el uso de
sistemas eh de inteligencia artificial
es ético y responsable y sobre todo y
muy importante, mitigar riesgos y sesgos
a la hora de implantar y de utilizar
estos sistemas. Establecer un comité de
inteligencia artificial que desarrolle
los casos de uso, que cuente con
políticas claras de implementación y que
genere entornos de confianza, asegurando
el cumplimiento del código de uso
responsable y fomentando en la empresa
la eh la cultura de aprendizaje
continuo. ¿Por qué? Porque uno de los
pilares fundamentales del Reglamento de
Inteligencia Artificial y que debe eh
debe eh contener el marco de gobernanza
es la alfabetización. es la primera
norma eh a nivel eh Unión Europea que ya
no habla de formar, sino que habla de
alfabetizar en eh en inteligencia
artificial cada capacitando a cada uno
en su nivel y cada uno en sus
responsabilidades de todos los
trabajadores de las empresas en la la
funcionabilidad, pero también la
concienciación de la de la buena
práctica o de la buena de los buenos
usos de la de la inteligencia
artificial. Y por último, el registro
inventario de los sistemas de
inteligencia artificial y de las
actividades de alfabetización, de forma
que evidenciemos y justifiquemos que
efectivamente se están llevando a cabo
las medidas de gobernanza de de IA,
gestión de riesgos y oportunidades. Como
comentábamos antes en la slide de la que
mencionab de sistemas de inteligencia
artificial y la clasificación de los
mismos, el último punto, el que estaba
marcado de rojo, hablaba de
prohibiciones en el ámbito de la de la
sistemas de inteligencia artificial. En
esta diapositiva os presentamos a modo
de resumen los eh ocho bloques de eh
sistemas prohibidos como pueden ser eh
la prohibición de clasificación eh de
las personas basándose en
características personales o sociales,
la manipulación subliminal del
comportamiento de las personas, la
identificación biométrica, es decir, son
aspectos tan sensibles que el uso de la
inteligencia artificial puede suponer
una merma significativa e importantísima
en los derechos fundamentales de las
personas. Por lo tanto, se prohíbe eh
categóricamente el uso de este tipo de
sistemas de inteligencia artificial y se
deben de tener en cuenta a la hora de
primero hacer el análisis de riesgo y
segundo a la hora de hacer el marco de
gobernanza de la IA e implementar
posteriormente los sistemas y los y las
certificaciones en nuestras empresas.
¿Por qué? Porque si nuestras empresas o
nuestros sistemas se catalogan dentro de
uno de estos de estos tipos de sistema
de inteligencia artificial,
evidentemente la certificación no va a
llegar a ningún punto.
Aquí eh pasamos muy rápido, hablamos de
la propiedad intelectual, tanto de los
outputs, eh la diferenciación, ¿no?,
entre crear con IA y crear por IA. Esto
va a tener mucho impacto y se va a tener
que analizar dentro de este eh marco de
gobernanza, categorizando si nuestros
sistemas de IA o nuestra forma de
utilizar eh la IA es creando por o eh
crear con. La diferencia es notable y
bueno, este tema da para varias horas de
comentar, tenemos poquito tiempo, pero
eh bueno, es importante que tengáis en
mente la diferenciación entre crear con
y crear por.
Lo mismo hablamos de infracción de
derechos de propiedad intelectual, que
también se van a tener que tener en
cuenta en este marco de gobernanza. Y si
continuamos eh más eh para adelante,
hablamos de las oportunidades.
Oportunidades, por supuesto que hay
oportunidades, no todo es negativo ni eh
todo lo contrario. El uso de la
inteligencia artificial nos sirve para
automatizar, para la satisfacción de los
propios empleados. ¿Por qué? Porque
mejora la experiencia laboral y sobre
todo eh permite que eh sea un
complemento a nuestras tareas. pasamos
las tareas más eh auxiliares o
administrativas y utilizamos eh uy,
perdón, y utilizamos eh estos sistemas
de inteligencia artificial y la
colaboración, las sinergias eh permite
crear organizaciones más resilientes,
transformar integralmente las
organizaciones. Es una oportunidad
espectacular.
Y ya por último hablamos de la
importancia del marco de gobernanza y la
eh trazabilidad y la interconexión con
otras normativas como puede ser el
Reglamento General de Protección de
Datos y la Dataact que van muy a la
mano. Eh, tenemos que tener en cuenta
que la inteligencia artificial utiliza
datos y utiliza datos personales. La
diferenciación es importante, por lo
tanto, tenemos que tenerla en cuenta y
se va a tener que tener en cuenta a la
hora de hacer el marco de gobernanza y
de implementar la certificación. eh la
ISO 42,000.
Vale, por último, eh, ¿qué debemos
hacer? ¿Cuál es el procedimiento? pues
debemos de empezar por un análisis de de
nuestro sistema de inteligencia
artificial y sobre todo la viabilidad
del mismo, teniendo en cuenta lo que
hemos comentado anteriormente de las
prohibiciones de uso y si eh nuestro
sistema de IA es de alto riesgo. tenemos
que llevar a cabo el despliegue de la
misma bajo siempre supervisión humana y
a través de un registro inventario de
los sistemas de inteligencia artificial,
por supuesto, alfabetizando y
concienciando a nuestros trabajadores,
monitorizando el uso y las eh la
correcta aplicación de las medidas
establecidas en el marco de gobernanza
y, por supuesto, mejora continua y
auditoría interna de todo lo que se ha
desarrollado, estableciendo un plan de
auditoría anual y registrando, por
supuesto, los eh los resultados ados de
forma que se pueda mejorar y se pueda eh
sobre todo tener una trazabilidad de
todas estas mejoras.
La inteligencia artificial es una
oportunidad. La gobernanza de esta
inteligencia artificial es el marco que
pasa de eh ser simplemente un sistema a
ser un sistema con valor y que aporte
valor a nuestra empresa. Por lo tanto,
es importantísimo tenerlo en cuenta si
estamos utilizando inteligencia
artificial.
Muy bien. Pues ahora eh por último
rápidamente en las empresas que
realmente quisierais
serían eh los pasos a seguir.
Bueno, pues eh habría distintas fases,
habría que superar cinco fases antes de
llegar a una sexta para certificar, ¿no?
Eh, lo primero que tendríamos que hacer
es ese diagnóstico inicial de contexto,
identificación del ciclo de vida del
sistema de inteligencia artificial. Eso
es muy importante y al final es donde
defiendes el alcance y lo que venía a
ser el documento de aplicabilidad
similar a lo que se hace en una ISO
27001. En segundo momento hay que
identificar y evaluar los riesgos y
oportunidades positivo y negativo
siempre de lo que es el uso de la
inteligencia artificial. Fase tres, el
diseño del sistema de gestión de
inteligencia artificial. Pues lo mismo
que en otros sistemas de gestión. Habrá
que definir esos procesos y el modelo de
gobernanza. Fase cuatro, implementamos y
capacitamos lo que nos comentaba Eser de
la alfabetización. Entraría en esta fase
cuatro, fase cinco, hacemos esa
auditoría interna y ya podríamos pasar a
una certificación externa por una
entidad acreditada. Consejos para
superar con éxito la certificación
liderazgo. Hay que contar con el apoyo
de la alta dirección para crear esa
cultura de uso de ella responsable. Eso
es muy importante. Sinergias. Aprovecha
otros sistemas de gestión. Otros
sistemas de gestión que tengas ya
certificados. prioriza, comienza por los
apartados del cuatro al seis, contexto,
liderazgo y planificación porque son los
que definen el marco de juego. Valor
añadido. Eh, es importante establecer en
los diagnósticos no solo desde un
componente técnico puramente, sino
también valorar otros temas como
madurez, ética y capacidad de
gobernanza. Y por último, mejora
continua. revisa la evolución porque la
inteligencia artificial es constante la
evolución que tiene para asegurarte de
que no se queda desactualizado y que se
usan innovación responsable.
Con esto ya finalizamos el webinar. Eh,
el futuro pertenece a quienes gobiernan
la IA. recordar, no queremos eh llegar a
escena Terminator y ese futuro empieza
hoy. Por ello, nos ofrecemos desde
Integra, dentro de nuestro propósito,
escuchamos para crear progreso
integrando tecnología y conocimiento
para ayudar a todas aquellas empresas
que cojan el reto de implantar esta ISO
42001
Y ahora ya dudas y preguntas si hay
alguna
por aquí.
Muchas gracias, chicas. Creo que sí
estoy entrando por ahí. idea. Eh, podéis
en el panel de preguntas podéis
escribirnos las las consultas que
tengáis a vuestra derecha.
Sí, pregunta una persona, crear por o
crear con, ¿podéis poner un ejemplo?
Aquí, por ejemplo, la clave está en si
ha habido una intervención humana
significativa desde el punto de vista de
la originalidad y del trabajo en la
implantación o en la el desarrollo de
los prompts o no. Por ejemplo, si
nosotros utilizamos CHGPT, incluimos un
único PROMT, ahí estaríamos hablando de
creación por IA. ¿Por qué? Porque
realmente no ha habido un trabajo o no
ha habido una creación, no ha habido una
originalidad por parte de la persona
física, de persona humana y por lo tanto
la propiedad, por así decirlo, no
estaría eh en nuestras manos, ¿vale? Sin
embargo, si se demuestra que hay un
trabajo, que hay diferentes eh proms,
que hay un listado de proms trabajados
que hemos puesto, hemos respondido,
hemos vuelto a matizar, ahí podría
considerarse que es eh bueno, un
resultado creado con la IA. ¿Por qué?
Porque la herramienta a través de la
cual hemos obtenido el resultado es la
IA, pero el el conocimiento e la
originalidad parten física, de la
persona humana. Entonces, eso es
importante eh hacer la distinción y
muchas veces es el caso a caso, es
analizar el caso a caso para determinar
si estamos ante una creación con IA o
una creación por IA.
Muchas gracias, Ester. Sí, otra persona
nos pregunta un dato para diferenciar
crear con IA y crear por IA, que creo
que lo has contestado eh ahora mismo.
Otra persona pregunta, ¿esta norma
certifica la organización o
productos/preectos?
Sí. Eh, esta norma eh está pensada para
certificar lo que es la organización, o
sea, que tienes un sistema de gestión
que contempla eh el cómo tú concibes la
inteligencia artificial dentro de tus
productos y servicios, ¿vale? Y cómo lo
desarrollas. Si bien deciros que están
generándose unas normas específicas para
certificar solo lo que es producto
proyecto, ¿vale? para un producto
proyecto en concreto, que también se
están lanzando normas específicas para
esto.
No, aquí aquí deciros que desde Integra
realmente tenemos programas formativos
específicos para inteligencia
artificial. De hecho, eh comentaba al
principio la presentación que Integra
tiene cuatro líneas de negocio:
consultoría, tecnología, formación y
hostelería. En la línea de negocio de
formación damos tanto formación
presencial, damos formación online, eh
tenemos plataforma propia que se llama
Virtuos para eh que las empresas puedan
eh dar píldoras formativas sobre
inteligencia artificial eh a sus
trabajadores. Entonces, bueno, pues
podemos pasar más información a la
persona que ha preguntado, le podemos
pasar más información sobre estas
formaciones específicas.
Perfecto. Sí, gracias. Vea, os
pasaremos, nos dan las gracias o os
pasaremos los los datos de de la persona
que ha preguntado esto por si queréis eh
profundizar individualmente con ella.
Eh, de momento no hay más preguntas, lo
dicho, ahora saltará esa pequeña
encuesta donde si queréis profundizar en
este tema con Ester y con Bea, pues
podéis indicarlo ahí. Y muchas gracias a
todos y y nos vemos muy pronto.
Muchas gracias.
Muchas gracias a todos.
Gracias.