La sede de la Asociación de Empresarios del Polígono Romica de Albacete (ADEPRO) ha acogido esta mañana la Jornada ‘IA en la empresa’, una formación que ha tenido una buena aceptación entre nuestras empresas y que ha sido impartida por Horacio Jávega Gualda y Juan Damián Cuartero Picazo, de Hardlink, empresa con la que ADEPRO mantiene un convenio de colaboración para beneficio de todos nuestros asociados.
A lo largo de la jornada se ha puesto de manifiesto que el uso de la IA generativa supone ventajas competitivas para las empresas, como por ejemplo:
-
Aumenta la productividad.
-
Mejora la eficiencia y eficacia.
-
Facilita el proceso de aprendizaje.
-
Fomenta la innovación.
-
Ahorra tiempo y dinero.
No obstante, también se ha mostrado la cara B, ya que el número incidentes de ciberseguridad relacionados con el uso de herramientas de IA en las empresas está creciendo exponencialmente desde su uso generalizado. Con ejemplos reales, los ponentes han detallado algunos factores a tener en cuenta:
-
Las fugas de datos se pueden producir de forma indirecta a través de la filtración de las credenciales que proporcionan acceso a las conversaciones con los modelos.
-
Filtrar información personal y/o de clientes supone incumplir la RGPD.
-
A nivel externo, debemos ser conscientes de las capacidades de la IA para generar deepfakes, correos de phising y otro contenido malicioso que pueda suponer grandes riesgos para la empresa por medio de los empleados.
-
Las respuestas obtenidas pueden ser erróneas o poco precisas. Es fundamental contratar personal cualificado, el uso de la IA debe complementar nuestros conocimientos.
Para mitigar los riesgos de la utilización de la IA, pero sin dejar de innovar en la empresa, Horacio Jávega Gualda y Juan Damián Cuartero Picazo han dado los siguientes tips:
-
Clasificar el riesgo de las herramientas de IA.
-
Definir una política de IA clara.
-
Capacitar a los empleados.
-
Concienciar sobre qué información se puede compartir.
-
Anonimizar lo máximo posible los datos proporcionados.
-
Realizar auditorías de uso de IA en la empresa.
-
Permitir su uso en entornos controlados.
Teniendo en cuenta todo lo anterior, en la Jornada ‘IA en la empresa’ se han expuesto las siguientes conclusiones:
-
La IA es poderosa, pero debemos conocer los riesgos que puede suponer un uso irresponsable de estas herramientas dentro de la empresa. Gestionar los Sistemas de Gestión de la seguridad de la información de la organización es fundamental.
-
Se deben anonimizar los datos lo máximo posible, decidir que herramienta se usa, cómo, e integrarla en el SGSI, concienciar a los empleados sobre qué información pueden compartir y cuál no, monitorear y NUNCA dejar sin control Humano.
-
Cuando se trabaja con datos sensibles, lo más recomendable es descargar modelos más ligeros en un entorno controlado para garantizar la confidencialidad.
