Consultoría en Ética para IA

En 2019, Apple lanzó un nuevo servicio financiero, la tarjeta Apple, que utiliza algoritmos de IA para asignar créditos a los usuarios en función de sus datos financieros.

Sin embargo, un conocido emprendedor denunció públicamente en Twitter que su esposa recibía 20 veces menos crédito que él, a pesar de tener un historial financiero similar. Este incidente generó una gran desconfianza en la tecnología de Apple y en su marca en general.

Es importante destacar que los servicios basados en tecnologías emergentes como la IA o el IoT pueden dar lugar a situaciones de desconfianza, sesgos discriminatorios (basados en género, orientación sexual, raza o categoría social), falta de transparencia al no poder explicar el comportamiento de los algoritmos, trato inadecuado a las personas y manipulación debido a burbujas informativas o noticias falsas.

En este sentido, la ética en IA es fundamental para garantizar el uso responsable y ético de estas tecnologías emergentes. Las empresas y organizaciones deben asegurarse de que sus soluciones de IA sean justas, transparentes y éticas, y trabajar para evitar cualquier posible sesgo o discriminación en su uso.

En Balusian nuestra misión es ayudar a las empresas a gestionar estas situaciones y garantizar un diseño responsable de los servicios basados en tecnologías emergentes, diseño que tenga un alineamiento con unos principios éticos base.

Cuando los algoritmos basados en IAs no han sido diseñados siguiendo criterios éticos como los definidos por marcos como el de la UE u otros, se pueden llegar a producir situaciones que tengan un impacto crítico en la vida de los usuarios.

En Balusian hemos desarrollado un marco de trabajo que permite identificar este tipo de situaciones potenciales, evaluar el impacto que ello puede tener para la organización y sus clientes y usuarios, y definir un plan de acción que permita minimizar el riesgo a través de diferentes tipos de medidas tecnológicas y organizaciones. El objetivo final es garantizar un diseño responsable de las soluciones inteligentes y una adopción adecuada.

Balusian cuenta con un equipo de profesionales expertos en ética de las tecnologías emergentes, que ayudan a las organizaciones a definir equipos multidisciplinares formados por profesionales técnicos responsables del diseño e implementación de las soluciones, los responsables del negocio, así como las terceras personas que puedan beneficiarse de los servicios y al mismo tiempo verse afectada por efectos no previstos. Sólo a través de la puesta en marcha de comités éticos se puede abordar un diseño responsable que tenga en cuenta todos los puntos de vista.