NTT Data y Fundación SERES llevan a cabo la tercera edición de LabS IA

Este tercer informe se fundamenta en las recientes demandas de una inteligencia artificial aplicada con responsabilidad, impulsadas por la Comisión Europea mediante normativas como AI Act, ya que, a pesar de que se utilice de forma discriminatoria o sesgada, también existe la posibilidad de que se utilice de forma discriminatoria o sesgada o que surjan errores que la hagan funcionar de manera incorrecta. El peligro de sesgo en la inteligencia artificial disminuye al involucrar agentes de diversas culturas y contextos, lo cual puede contribuir a asegurar que el modelo sea sensible y equitativo para todas las comunidades. Por esta razón, es fundamental que los sistemas de inteligencia artificial sean comprensible y justos, además de que las empresas y organizaciones adopten los principios de una inteligencia artificial ética en sus operaciones.

No obstante, en esta nueva edición de LabS IA, el 48% de los participantes aseguró que aún no están familiarizados con conceptos fundamentales para implementar la inteligencia artificial en sus organizaciones, cumpliendo con todos los requisitos éticos establecidos.

Por esta razón, entre las principales conclusiones del informe se encuentra la urgencia de que las organizaciones garanticen la comprensión y la equidad de sus modelos de inteligencia artificial. «La comprensión y la equidad no son únicamente conceptos teóricos, sino fundamentos fundamentales para la creación de una inteligencia artificial que sea justa y transparente», señala David Pereira Paz, Chief GenAI Officer, EMEAL en NTT DATA.

La investigación indica que, aunque existe un amplio margen de mejoras, también se aprecia una tendencia positiva en el compromiso de las organizaciones con la adopción de una inteligencia artificial ética. El 32% de los participantes en el área de IA ya están aplicando estos principios de explicabilidad y equidad en sus entidades.

Un sendero que no está sujeto a obstáculos, para los que NTT DATA propone enfoques de actuación como el CDO Journey, una iniciativa de la compañía para brindar apoyo a las empresas durante este proceso que no solo se ajusta a la regulación, sino que también fomenta una cultura de innovación ética que puede transformar el panorama empresarial. «Las organizaciones que adoptan estos principios no solo cumplen con las normativas, sino que también se posicionan como líderes en la elaboración de tecnologías de confianza y beneficio social». «En NTT DATA deseamos continuar creando un ecosistema que fomente la inteligencia artificial responsable y que contribuya a un progreso tecnológico que beneficie a toda la sociedad», añade Pereira.

Asimismo, Ana Sainz, directora general de Fundación SERES, ha señalado que «ahora nadie duda del potencial de crecimiento que brinda la tecnología, y tampoco, que su uso requiere responsabilidades». No obstante, este avance requiere reflexionar, conocer y abordar los obstáculos sociales relacionados con la tecnología y comprender desde el principio los efectos que la adopción de la inteligencia artificial tiene en las personas. Se trata de comprender mejor los riesgos e impactos negativos a los que debemos anticiparnos, integrarlos en el diseño y, de esta forma, brindarles respuesta.