Encuesta de PwC 2024 sobre IA responsable: inversión, riesgos y valor

A medida que entramos en el segundo año de crecimiento de la IA generativa es evidente que esta tecnología se está convirtiendo en una parte esencial de los negocios y agendas empresariales. Las empresas que no integren la IA de manera integral en sus operaciones podrían quedarse tan rezagadas que les resulte difícil recuperar el terreno perdido. Aunque todavía es pronto, los directivos están entendiendo mejor el impacto de la IA en la estrategia empresarial. Además, están empezando a comprender lo que se necesita para desarrollar e implementar soluciones de IA que no solo aumenten la productividad y transformen los negocios, sino que también gestionen los riesgos y preserven el valor adicional que estas soluciones pueden generar. La lección clave de estos primeros esfuerzos es que, a medida que la IA continúa avanzando y redefine el trabajo y la innovación, el éxito requiere un enfoque y una visión integral de los riesgos y oportunidades para crear soluciones de IA de manera responsable.

Nuestro trabajo con los clientes y las encuestas recientes indican que la adopción de la IA sigue siendo diversa: mientras algunas empresas están comenzando a experimentar con esta tecnología, otras ya la tienen completamente integrada. Lo mismo ocurre con la adopción de prácticas de IA responsable, las cuales pueden ayudar a las organizaciones a aprovechar el potencial transformador de la IA, al tiempo que abordan de manera integral los riesgos asociados.

Por lo anterior, algunas organizaciones están avanzando de manera significativa en este ámbito, mientras que otras aún no han establecido una base sólida. Es crucial entender que la IA responsable no es un proceso que se realiza una sola vez; se trata de un compromiso continuo que debe integrarse en cada etapa del desarrollo, implementación, uso y supervisión de las tecnologías basadas en IA.

Para entender mejor cómo las empresas están manejando la IA responsable, encuestamos a 1,001 ejecutivos de empresas y tecnología en Estados Unidos, cuyas organizaciones utilizan o planean usar la IA. 

El 73 % de los encuestados afirma que utilizan o tienen la intención de usar la IA, ya sea en su forma tradicional o en su versión generativa. De estos, una proporción ligeramente mayor se enfoca en aplicar estas tecnologías exclusivamente en los sistemas operativos utilizados por los colaboradores: el 40 % en el caso de la IA tradicional y el 43 % en el caso de la IA generativa. En contraste, una proporción ligeramente menor de las empresas dirige sus esfuerzos en IA hacia los sistemas tanto de los trabajadores como de los clientes: el 38 % para la IA tradicional y el 35 % para la IA generativa.

¿Cuál es la situación actual de las empresas con respecto a la IA y la IA generativa?

Preguntas: ¿Cuál de las siguientes opciones describe mejor la situación actual de tu organización en relación con el uso de la IA? ¿Cuál de las siguientes opciones describe mejor la situación actual de tu organización en relación con el uso de la IA generativa?

Cuando se trata de evaluar los riesgos asociados con los esfuerzos en IA e IA generativa, solo el 58 % de los encuestados ha realizado una evaluación preliminar de los riesgos en sus organizaciones. Sin embargo, la IA responsable ofrece beneficios que van más allá de la simple gestión de riesgos. De hecho, muchos ejecutivos aseguran que sus organizaciones están enfocadas en aprovechar estos valores adicionales.

La diferenciación competitiva es el objetivo más mencionado para las prácticas de IA responsable, con un 46 % de los encuestados señalándolo como uno de los tres principales objetivos. La gestión de riesgos sigue, con un 44 %. Y otros objetivos importantes incluyen generar confianza con las partes interesadas externas, como los clientes, e impulsar la creación o preservación de valor, cada uno con un 39 %.

¿Qué impulsa la inversión en IA responsable?

Pregunta: ¿Cuáles son los principales objetivos de tu organización al invertir o planear invertir en prácticas de IA responsable?

En nuestro trabajo con los clientes, se observa que la IA responsable está generando valor en diversas áreas empresariales. Es más, los resultados de la encuesta respaldan esta premisa al revelar cinco principales beneficios de la IA responsable que incluyen la mejora en la gestión de riesgos y ciberseguridad, un aumento en la transparencia, una mejor experiencia del cliente, una gestión coordinada de la IA y un impulso a la innovación.

Esta creación de valor se debe a que la IA responsable facilita el éxito de las iniciativas de esta tecnología, acelerando su implementación y reduciendo problemas, interrupciones y errores. Además, contribuye a construir confianza con las partes interesadas al proporcionar evidencia verificable del éxito de estas acciones.

Beneficios de invertir en prácticas de IA responsable

Pregunta:¿Qué beneficios ha obtenido o espera obtener tu organización de la inversión en prácticas de IA responsable?

¿Cómo funciona? La IA responsable facilita una gobernanza específica para la IA, gestionando los riesgos asociados en los distintos casos de uso y fortaleciendo la ciberseguridad. A través de una supervisión rigurosa y la elaboración de informes, aumenta la transparencia, tanto interna como externa, para cumplir con los requisitos actuales y futuros.

Las herramientas que abarcan la privacidad, la gobernanza de datos, la identificación y mitigación de sesgos, así como la obtención de resultados fiables, contribuyen a mejorar la experiencia del cliente. Al definir roles y responsabilidades claras, las prácticas de IA responsable permiten una gestión coordinada de la IA. Además, al proporcionar un entorno seguro y establecer competencias y políticas adecuadas, fomenta la innovación al garantizar que los riesgos se gestionen y aborden de manera efectiva.

La aplicación responsable de la IA requiere diversas capacidades. En esta encuesta, se investigaron algunas de las áreas que las organizaciones parecen estar priorizando en la actualidad. Entre estas se encuentran la mejora en la capacitación, la integración de expertos en riesgos de IA, la formación continua, la protección de datos, la gobernanza de la información, la ciberseguridad, la evaluación de modelos y la gestión de estos, la administración de riesgos asociados con terceros, el software especializado para la gestión de riesgos de IA, y la supervisión y auditoría. De hecho, el 80 % o más reporta avances en cada una de estas 11 áreas clave.

Incluso las organizaciones que hayan logrado implementar completamente sus capacidades deben mantenerse al tanto de los cambios en el panorama tecnológico y ajustar sus prácticas según sea necesario, ya que lo que hoy es adecuado podría no serlo en el futuro. Además, deben enfocar sus esfuerzos en la "demostrabilidad" de estas capacidades, es decir, en su capacidad para resistir un examen riguroso.

Así mismo, las expectativas externas también están en constante cambio, y las normas y regulaciones están comenzando a establecerse de manera más sólida. Por ejemplo, los marcos de privacidad y consentimiento a menudo no incluyen disposiciones específicas para los datos de clientes que se introducen en los sistemas de IA. La gobernanza de datos puede no abordar adecuadamente el acceso de modelos de IA generativa a información interna, que a veces puede ser sensible. Además, la ciberseguridad tradicional rara vez contempla los riesgos asociados con el uso extensivo de esta tecnología, como el "envenenamiento de modelos" y otras amenazas emergentes.

Con la IA avanzando a un ritmo acelerado, la IA responsable también debe evolucionar en paralelo.

Pocas empresas afirman haber implantado plenamente las capacidades clave de la IA responsable

Preguntas: ¿Cuál describe mejor los progresos realizados por tu organización en la actualización de capacidades específicas para permitir el uso responsable de la A? ¿Cuál describe mejor los progresos realizados por tu organización en la actualización de capacidades específicas para permitir el uso responsable de la IA generativa?

Cuantificar los beneficios futuros de prevenir problemas potenciales es aún más complejo. Por ejemplo, aunque aplicar principios de IA responsable en la actualidad facilitará el cumplimiento de futuras normativas sobre privacidad, sesgos y presentación de informes, resulta difícil estimar el ahorro en cumplimiento antes de que estas regulaciones sean implementadas.

¿Cuáles son los obstáculos que enfrentan las empresas para invertir en IA responsable?

Pregunta: ¿Cuáles son los mayores retos a los que te enfrentas o se ha enfrentado tu organización a la hora de invertir en prácticas de IA responsable?

Un esquema estandarizado para documentar la evaluación de riesgos, las respuestas y la supervisión continua es fundamental para enfrentar este desafío. Debe abordar tanto los riesgos inherentes a la IA como aquellos que persisten después de tomar decisiones informadas dentro del umbral de riesgo de la organización. Además, es crucial que demuestre que las medidas de mitigación están no solo diseñadas y evaluadas, sino también funcionando de manera efectiva y continua.

Involucrar a toda la empresa en este proceso facilitará la integración de la IA responsable en el desarrollo de proyectos y ayudará a evitar retrocesos. Asimismo, con el apoyo de la organización, se podrá documentar y cuantificar el despliegue acelerado de iniciativas de IA, así como las mejoras en la marca relacionadas con la privacidad y otros beneficios derivados de la IA responsable.

Basándonos en nuestra encuesta y experiencia con la IA responsable, tanto con clientes como internamente en PwC, a continuación se indica cómo puedes ayudar a impulsar los esfuerzos de la IA responsable en tu organización.

Este artículo está basado en el artículo “PwC’s 2024 US Responsible AI Survey” de Digital Pulse en PwC US. Esta versión es organizada y revisada por PwC Colombia.