Uso responsable de la IA en la transformación empresarial

El potencial para transformar los negocios mediante la inteligencia artificial (IA) continua creciendo. En un futuro cercano, sus aplicaciones adquirirán mayor relevancia en las estrategias de crecimiento de todas las organizaciones.

Mientras la primera se centra en sistemas altamente especializados, capaces de realizar tareas específicas o resolver problemas particulares, que son utilizados por científicos de datos, la GenAI consiste en sistemas con la capacidad de comprender, aprender y aplicar conocimientos en una amplia gama de tareas, generando nuevos contenidos que elevan la eficiencia de las empresas a través de:

• Generación de código de software 

• Generación de texto, imágenes, audio y video de alta calidad

• Análisis de datos (en diferentes formatos)

• Transcripciones, traducciones y resúmenes de documentos empresariales 

• Simulaciones de posibles escenarios económicos, financieros, etc. 

Gestión de riesgos y adaptación constante

El uso de la inteligencia artificial generativa implica realizar ajustes, adaptaciones constantes y ágiles, conocidas como iteraciones. Estas no solo buscan maximizar los beneficios obtenidos, sino también anticipar y gestionar los riesgos para evitar obstaculizar el progreso en su implementación.  

La presencia de sesgos en los datos de entrenamiento de los algoritmos de IA plantea un desafío significativo. Si estos sesgos no se abordan adecuadamente, existe el riesgo de que los sistemas generen contenido no fiable, inexacto o contrario. Esto incluye la perpetuación y ampliación de la discriminación en áreas como la contratación, promoción, evaluación del desempeño y asignación de recursos. Además, podría erosionar la confianza de los empleados, clientes y otras partes interesadas. 

Asimismo, la automatización impulsada por la GenAI tendrá un impacto en el empleo. Si bien esto puede crear preocupación, también ofrece la posibilidad de crear nuevas oportunidades laborales y mejorar la eficiencia en otras tareas donde las personas, con su capacidad de juicio y creatividad, continúan siendo irremplazables. 

Principios para una IA responsable

A fin de mitigar los riesgos (p. ej., daños a individuos, daños a grupos, daños sociales y daños institucionales) y asegurar una trayectoria sostenible a largo plazo basada en la confianza, es fundamental incorporar prácticas de IA responsable en cada etapa del proceso de implementación de esta tecnología, desde la planificación hasta el desarrollo, las pruebas y el monitoreo.

Confiar en la inteligencia artificial va más allá de garantizar sistemas seguros y el cumplimiento normativo, también implica que las empresas se guíen bajo los principios alineados con valores sociales, éticos y de respeto a los derechos humanos. Por ejemplo, implementando características de legalidad, opción de intervención humana, seguridad para las personas, así como transparencia y explicabilidad. 

Las empresas deben ser transparentes al comunicar con claridad cómo se recopilan, utilizan y protegen los datos, así como los algoritmos y modelos utilizados en la inteligencia artificial. De igual forma, deben asegurarse de que los sistemas de IA sean justos y equitativos, evitando la discriminación y el sesgo en la toma de decisiones, tanto en la recopilación de datos como en los algoritmos utilizados.  

También es importante considerar que las organizaciones deben asumir la responsabilidad de las acciones y decisiones tomadas por los sistemas de inteligencia artificial. Un diseño centrado en el ser humano requiere considerar las necesidades, valores y derechos de las personas en el diseño y desarrollo de sistemas de IA.  

Privacidad y seguridad de datos

Proteger los datos personales y garantizar su privacidad es un aspecto crítico en el desarrollo y uso responsable de la IA. Esto demanda medidas de seguridad que deben ser implementadas de manera integral y actualizadas regularmente para adaptarse a las nuevas amenazas y regulaciones. 

Además, es importante realizar evaluaciones periódicas para identificar posibles vulnerabilidades y mejorar en todo momento la protección de los datos personales en las aplicaciones de inteligencia artificial.

Algunos ejemplos de estas medidas son: 

• Recopilar y almacenar solo la información personal necesaria 

• Eliminar o enmascarar información identificable y asociar identificadores únicos en lugar de datos personales directos 

• Implementar controles de acceso adecuados y políticas claras sobre la retención y eliminación de datos personales

• Utilizar técnicas de encriptación para proteger los datos personales  

• Mantener una infraestructura segura para la aplicación de IA

• Capacitar al talento en las mejores prácticas de seguridad y privacidad, incluyendo la identificación de posibles riesgos y brechas de seguridad 

Colaboración e intercambio de conocimientos

Fomentar la colaboración y el intercambio de conocimientos entre las partes interesadas en el ecosistema de IA en México promueve la innovación, el aprovechamiento de recursos, la resolución de desafíos comunes, el establecimiento de estándares y mejores prácticas. Esto contribuye a promover la adopción y aceptación de la IA en beneficio de la sociedad y la economía.

Al interior de las organizaciones, también es fundamental una definición clara sobre las funciones de distintos liderazgos para mantener una IA responsable.

Caso práctico: cómo funcionan las mejores prácticas para una IA responsable

La empresa de comercio electrónico A busca implementar un chatbot para dar respuesta a las consultas de los clientes y brindarles soporte en el uso de su plataforma. Sin embargo, en la etapa de prueba el equipo a cargo de la evaluación observa que el chatbot arroja recomendaciones sesgadas para la compra de productos.