Hace un año, esta misma redacción recibió al especialista de ACCIONA Miguel Ángel Rodríguez López para conversar digitalmente con nuestros lectores sobre el por aquel entonces recién llegado ChatGPT y analizar ventajas y amenazas de la IA en el mundo del trabajo y el tejido productivo. Doce meses después, el manager de Data & IA de ACCIONA ha vuelto a visitarnos para analizar cómo ha sido la evolución de esta tecnología.
Pregunta (Marta): De los 4 millones de usuarios que se dice que hay en España, de ChatGPT, ¿qué porcentaje le sacando realmente partido a la herramienta?
Respuesta: No sabría decir qué porcentaje de usuarios está sacando realmente partido a ChatGPT, o para ser más precisos, al uso de modelos como GPT u otros similares. El uso de esta tecnología requiere un profundo conocimiento de sus limitaciones y del uso de los 'prompts'. Es cierto que cada vez somos más usuarios los que utilizamos esta tecnología de forma indirecta en diferentes aplicaciones integradas en otros software comerciales, como podría ser Copilot.
La cifra de los 4 millones podría quedarse corta en el próximo año, ya que esperamos que un número elevadísimo de las aplicaciones que utilizamos incluirán esta tecnología.
P (Juan Carlos): ¿En qué trabajos y tareas la IA está siendo ya una ayuda diferencial?
R: En ACCIONA, somos conscientes de que el uso de la IA no es algo nuevo; llevamos años utilizando esta tecnología. Principalmente, hemos empleado lo que actualmente se denomina IA clásica y, más recientemente, en los últimos dos años también hemos integrado la IA generativa. Ambos tipos de IA nos han ayudado a ser una empresa mucho más innovadora, eficiente, segura y sostenible.
Desde el punto de vista de la eficiencia, los algoritmos de optimización nos han ayudado a diseñar instalaciones o procesos internos que permiten aprovechar al máximo los recursos disponibles, reduciendo además las emisiones en nuestras operaciones. Los algoritmos predictivos nos han permitido anticiparnos a eventos, reduciendo así la incertidumbre. Pero, sin duda, el uso de la IA generativa nos está ayudando a optimizar nuestros procesos en los que debemos gestionar grandes volúmenes de documentación. Por ejemplo, estamos automatizando la consulta a procedimientos, documentos de licitaciones, planos, etc., mediante el uso de bots inteligentes que pueden responder nuestras dudas utilizando nuestro lenguaje natural, sin necesidad de invertir innumerables horas en la revisión de toda esta documentación. Además, esta tecnología nos permite automatizar una gran cantidad de procesos, como la gestión de pedidos y todo lo relacionado con la gestión documental. Esto nos facilita, entre otras aplicaciones, verificar los registros formativos y preparación de nuestros trabajadores en el campo de la prevención.
P (Santiago): ¿En qué áreas específicas de negocio hay impacto significativo debido a la incorporación de IA generativa?
R: Prácticamente en todas las áreas, ya que en mayor o menor medida debemos manejar información, ya sea en lenguaje natural o incluso en imágenes. La IA generativa no solo nos permite procesar documentos, sino también analizar imágenes y generar una descripción del contenido de estas, lo que facilita un procesamiento posterior con modelos de lenguaje natural.
En todos los departamentos, como gestión documental, ingeniería, marketing, mantenimiento, y muchos más, podemos encontrar casos de uso de esta tecnología. Desde la generación de contenidos tanto en texto como en imagen, hasta el análisis de documentación para verificar la calidad y consistencia de los proyectos. También nos ayuda a buscar puntos críticos en licitaciones, e incluso puede generar experiencias únicas vinculadas con la cultura, como hacer participar a los visitantes de un museo en actividades artísticas gracias al uso de la IA generativa.
P: (Esperanza) ¿Qué nuevas profesiones van a surgir por efecto de estas nuevas tecnologías?
R: Van a surgir nuevas profesiones relacionadas con el uso de la IA con tres propósitos principales. En primer lugar, habrá profesiones dedicadas a enseñarnos cómo utilizar esta nueva tecnología y cómo adaptarnos profesionalmente para ser más eficientes con las nuevas herramientas que nos brinda, e incluso para adquirir nuevas habilidades.
En segundo lugar, surgirá el papel del entrenador de IA, es decir, será necesario generar y supervisar toda la información que entrene a los modelos, o incluso limitar la capacidad de actuación de los modelos. Muy relacionado con esta profesión estará la de auditor de algoritmos, ya que será necesario verificar que no haya sesgos en los modelos. Esto va de la mano de los entrenadores, pero también será necesario contar con una serie de 'árbitros' que verifiquen las reglas éticas y de seguridad en el uso de estos modelos.
Otros trabajos más concretos que están utilizando IA generativa serán aquellos relacionados con la Ingeniería inversa de productos y la ciberseguridad, ambos muy relacionados entre sí por la importancia de proteger nuestros modelos, diseños e información confidencial.
P: (José Antonio): ¿Qué riesgos se corren al usar estas tecnologías y cómo podemos evitarlos?:
R: El riesgo radica en aceptar los resultados de la tecnología y confiar en las respuestas obtenidas sin ningún tipo de control o verificación. Es crucial prestar especial atención a riesgos como la seguridad y privacidad de nuestra información.
Debemos ser conscientes de dónde se están utilizando estos modelos, ya que, en caso de no hacerlo en una arquitectura segura, es posible que estemos exponiendo nuestra información más privada o estratégica sin saberlo. Por ejemplo, cargar documentos en ChatGPT automáticamente pone en manos de empresas como OpenAI el texto subido a la aplicación, lo que ha llevado a muchas empresas a considerar limitar o prohibir su uso. Por lo tanto, es necesario crear un entorno seguro en el que podamos utilizar esta tecnología de manera confiable.
En resumen, el desconocimiento es la principal amenaza, por lo que la acción pedagógica es esencial para mitigar los riesgos asociados al uso de estas tecnologías.
El principal riesgo de la IA generativa radica en aceptar los resultados de la tecnología y confiar en las respuestas obtenidas sin ningún tipo de control o verificaciónMiguel Ángel Rodríguez López (ACCIONA)
P (Miguel Ángel): ¿Cómo, para qué y con qué resultados está usando la IA ACCIONA?
R: ACCIONA está presente en muchos sectores, como energía, agua, infraestructuras, cultura, movilidad e inversiones, entre otros. Esto significa que la variedad y la casuística de uso de la IA son enormes en nuestra empresa.
Para generalizar los casos de uso de la IA, podemos identificar varios pilares: seguridad, sostenibilidad, eficiencia e innovación en productos y servicios. Nuestra prioridad es mejorar la calidad de todos nuestros proyectos y la eficiencia de nuestros procesos. La IA nos ayuda a detectar nuevas oportunidades de negocio, diseñar mejores soluciones para nuestros clientes y optimizar el uso de recursos y activos. Por ejemplo, podemos maximizar la producción de energías renovables gracias a mejores diseños y estrategias de operación basadas en algoritmos predictivos. También nos enfocamos en extender la vida útil de nuestros activos mediante el mantenimiento predictivo. En lo relativo al uso de la IA generativa, nos está permitiendo mejorar los procesos internos, pudiendo dedicar recursos a otras actividades de mayor valor añadido. Todo esto nos hace más competitivos y nos permite seguir creciendo en un entorno altamente competitivo, al identificar oportunidades antes que nuestra competencia.
P (Fernando:): ¿Cuáles son los principales desafíos que supone la llegada la IA generativa desde el punto de vista de regulación y legislación?
R: El avance de la IA generativa plantea desafíos regulatorios y legales significativos. Estos incluyen preocupaciones sobre la desinformación y el contenido malicioso, así como cuestiones de propiedad intelectual y derechos de autor cuando una IA crea contenido. También surgen preguntas sobre la responsabilidad y transparencia en el proceso de toma de decisiones de la IA, así como la necesidad de abordar posibles sesgos y garantizar la equidad en su aplicación. La seguridad y la privacidad también son preocupaciones clave, con la necesidad de proteger contra posibles usos maliciosos y salvaguardar la privacidad de los datos utilizados para entrenar los modelos.
Por todo ello es necesario encontrar un equilibrio entre fomentar la innovación y mitigar los riesgos asociados es crucial para la regulación efectiva de la IA generativa, y ya se están dando los primeros pasos. La Unión Europea ha liderado la regulación de la Inteligencia Artificial (IA) con el Reglamento de IA, estableciendo normas claras para garantizar la seguridad y promover la inversión e innovación en Europa. El reglamento clasifica los sistemas de IA según su riesgo, con prohibiciones para aquellos con riesgos inaceptables, como la manipulación cognitiva o el rastreo facial indiscriminado.
P: (Clara): Las empresas están tratando de incorporar IA en sus operaciones. ¿Cómo pueden hacerlo sin alterar ni interrumpir sus ciclos de trabajo?
R: Las empresas están buscando integrar la IA en sus operaciones sin interrumpir sus ciclos de trabajo. Es sentido común reconocer que toda nueva tecnología requiere un período de adaptación y validación. En Acciona, llevamos a cabo pruebas de concepto para comprender las limitaciones de la tecnología mientras la incorporamos gradualmente en nuestra rutina diaria. Esta adopción progresiva se vuelve más evidente cuando no solo afecta a nuestros procesos internos, sino también a proveedores y colaboradores.
P (Pablo): ¿Las cuestiones vinculadas con la propiedad intelectual pueden entrar en conflicto con ChatGPT? ¿Qué riesgos ve asociados a esta cuestión y cómo podrán mitigarse?
R: Estos riesgos incluyen posibles infracciones de derechos de autor, la atribución de la autoría del contenido generado, la confidencialidad de la información ingresada y la necesidad de cumplir con las licencias de los datos de entrenamiento. Debemos tener en cuenta que contenidos generados por ChatGPT pueden tener un gran parecido con obras protegidas por derechos de autor, y es por el carácter estadístico que hay detrás de estos modelos. Es nuestra responsabilidad verificar dicha similitud o no. Las empresas deben implementar políticas claras, educar a los usuarios sobre las limitaciones y riesgos, y establecer medidas de seguridad para proteger la información confidencial con el uso de entornos controlados.
P (Cristina): ¿Qué medidas deben tomar las empresas para garantizar que sus aplicaciones de #IA sean éticas y libres de sesgos?
R: Para asegurar que nuestras IA sean éticas y libres de riesgos, debemos entender que es responsabilidad de todos en la empresa. Los desarrolladores deben comprender el propósito final del algoritmo y usar conjuntos de datos balanceados y libres de sesgos. Además, será necesario establecer comités especializados para supervisar el proceso y garantizar decisiones éticas y sin sesgos, así como garantizar flujos de trabajo en los que se exija validad y testar los algoritmos en las situaciones más extremas. Es fundamental combinar estas medidas para promover una IA responsable y ética en nuestras operaciones empresariales.
P (Eduardo): ¿Es compatible la creatividad humana con los desarrollos de IA
R: Sí, la creatividad humana es compatible con el desarrollo de IA generativa. Al igual que los humanos nos inspiramos en diversas fuentes, como obras literarias, experiencias personales y avances tecnológicos, también podemos encontrar inspiración en la IA generativa. Aunque el proceso creativo humano es complejo y único, las IA generativas pueden ayudar a generar nuevas ideas y conceptos que los humanos podrían pasar por alto debido a nuestros propios sesgos y limitaciones. Aunque es poco probable que una IA llegue a ser tan creativa como los humanos, puede complementar el proceso creativo humano de manera significativa.
P: (Carmen) ¿Cómo está evolucionando la percepción pública de la IA?
R: La percepción pública de la IA está evolucionando hacia una aceptación más amplia y una comprensión de que debemos aprender a convivir con esta tecnología y aprovechar las herramientas que ofrece. Esta aceptación se ve impulsada por la necesidad de adaptarse y adquirir nuevas habilidades en un mundo cada vez más digitalizado. Sin embargo, también es importante reconocer la necesidad de regulación y control para garantizar que la IA se utilice de manera ética y responsable, sin limitar la capacidad de innovación y competitividad. Los usuarios deben ser conscientes del poder de los algoritmos y de la información que comparten en línea, ya que esto puede influir en la información que reciben y en las decisiones que toman. Entender el contexto en el que operamos es fundamental para una interacción informada con la IA.
Encontrar un equilibrio entre fomentar la innovación y mitigar los riesgos asociados es crucial para conseguir una regulación efectiva de la IA generativaMiguel Ángel Rodríguez López (ACCIONA)
P (Javier): ¿En qué se diferencia la IA generativa de otras formas de Inteligencia Artificial?
R: La IA generativa se distingue de otras formas de inteligencia artificial por su capacidad para imitar una de las actividades cognitivas más humanas: la imaginación. Puede generar imágenes, videos, sonidos o texto completamente nuevos, siguiendo ciertas reglas o limitaciones del mundo físico. Esta capacidad permite entrenar inteligencias artificiales clásicas mediante la generación de escenarios realistas poco comunes pero posibles, como en el caso de la conducción autónoma. Además, la IA generativa puede ser útil para imaginar nuevos materiales, estructuras de proteínas, etc. y superar los sesgos humanos al explorar territorios desconocidos, lo que abre la puerta a grandes avances en diversos campos.
La inteligencia artificial clásica se enfoca en resolver problemas específicos mediante la extracción de patrones, la construcción de modelos predictivos, o incluso ayudando en la definición de estrategias de optimización de diseños o procesos, requiriendo un profundo conocimiento del negocio y datos específicos. En contraste, la IA generativa utiliza modelos generalistas entrenados con grandes conjuntos de datos, siendo más versátil pero menos especializada. Aunque la IA generativa tiene potencial creativo, la IA clásica sigue siendo crucial y promete ofrecer un mayor retorno a corto plazo para las empresas.
Apoya TU periodismo independiente y crítico
Ayúdanos a contribuir a la Defensa del Estado de Derecho Haz tu aportación