Imagen de la noticia

Redacción. El uso ético de la inteligencia artificial (IA) resulta fundamental para ganar la confianza de los consumidores, según un nuevo estudio del Instituto de Investigación de Capgemini.

Los consumidores, empleados y la ciudadanía en general vigilan de cerca el avance de las empresas para aprovechar el potencial de la IA, y se muestran dispuestos a premiar o castigar sus comportamientos.

Los encuestados señalan que serían más fieles, comprarían más y serían defensores de la marca si perciben que sus interacciones mediante funciones de IA con las empresas son éticas.

Para la realización del estudio, titulado Why addressing ethical questions in AI will benefit organizations, se consultó a 1.580 directivos de grandes empresas en diez países y a más de 4.400 consumidores en seis países.

Del mismo se desprende que las empresas que utilicen la IA de forma ética se verán recompensadas por una respuesta más favorable de los consumidores, que se traduciría en más confianza por parte de estos, más compras, más recomendaciones y opiniones positivas, etc.

Por el contrario, si las interacciones de los consumidores con la IA suscitan inquietudes éticas, se pone en riesgo tanto la reputación como los resultados de negocio de la empresa.

El estudio revela que las empresas han experimentado problemas éticos relacionados con sistemas de IA. En este sentido, directivos de nueve de cada diez empresas tienen constancia de casos de uso ético cuestionable de la IA en los dos o tres últimos años, tales como recopilación de datos personales de pacientes sin consentimiento, en el sector sanitario, o la dependencia excesiva de decisiones tomadas de forma automatizada y sin comunicarlo al cliente, en banca y seguros.

Entre los motivos que originan estas situaciones, los directivos apuntan la presión por implantar con urgencia la IA, la falta de consideración de la ética durante el desarrollo y diseño de los sistemas de IA o la falta de recursos destinados a sistemas éticos de IA específicos (equipo, presupuesto, tecnología…).

A los consumidores, empleados y ciudadanos les preocupa la cuestión ética de la IA y desean alguna forma de regulación. La mayor parte quiere más transparencia cuando un servicio que utilice o contrate se apoye en IA y saber si la IA le trata de forma justa, así como una mayor regulación sobre el uso de la IA por parte de las empresas.

Las empresas, por su parte, comienzan a darse cuenta de la importancia del uso ético de la IA. Más de la mitad de los directivos considera que es importante garantizar que los sistemas sean éticos y transparentes, y cuatro de cada diez afirman haber abandonado o retirado una solución de inteligencia artificial cuando se han planteado inquietudes éticas.

Capgemini recomienda a las organizaciones que prioricen una estrategia de ética en sus sistemas de IA. Para ello, recomienda una aproximación triple para que dicha estrategia alcance a todos los niveles de la empresa:

  • De cara a la alta dirección y a aquellas personas con responsabilidad en asuntos éticos: Establecer fundamentos sólidos a través de una estrategia específica y un código de conducta de IA, desarrollar políticas que definan los límites de un uso aceptable de la IA de la compañía y su aplicación, crear estructuras de gobierno éticas y garantizar la asunción de responsabilidades y construir equipos diversos que inculquen y aseguren la sensibilidad hacia el amplio espectro de cuestiones éticas.
  • De cara a los departamentos con relación directa con clientes y empleados -Recursos Humanos, Marketing y Servicio al Cliente-: Asegurar el uso ético de la IA, educar e informar a los usuarios para generar confianza en los sistemas de IA, capacitar a los usuarios dándoles más herramientas de control y reclamación, comunicar de forma proactiva, internamente y externamente, casos cuestionables en torno a la IA para construir confianza.
  • De cara a los responsables de TI, AI y analítica de datos y sus equipos: Buscar la manera de que los sistemas de AI sean lo más transparentes y comprensibles posibles para ganar la confianza de los usuarios, hacer una gestión correcta de los datos y reducir los posibles sesgos en ellos, hacer seguimiento continuado de su rigor y precisión y aprovechar las herramientas tecnológicas para incorporar los principios éticos en las soluciones o funciones de IA.
Utilizamos cookies propias y de terceros para posibilitar y mejorar su experiencia de navegación por nuestra web. Si continua navegando, consideramos que acepta su uso.