Con el ‘boom’ de la inteligencia artificial generativa también se han prendido las alarmas sobre la necesidad de cuidar los datos y la privacidad de los usuarios. De hecho, el más reciente estudio de la empresa Cisco, titulado ‘Data Privacy Benchmark Study’, evidenció que el 94% de las compañías cree que las personas no les comprarían si no protegieran “adecuadamente los datos de sus clientes”.
Es más, precisó el reporte, que se basó en la respuesta de 2.600 profesionales de la privacidad y la seguridad de 12 países, que en estos tiempos en donde la inteligencia artificial generativa empieza a jugar un papel preponderante, los clientes “buscan mayores evidencias de que se puede confiar en las organizaciones cuando se trata de privacidad”.
Ante esto, el 91% de los profesionales consultados reconoció que las empresas necesitan hacer más para garantizar que los datos de sus clientes sean utilizados para “fines previstos y legítimos en la IA”.
Asimismo, el 97% de los encuestados reconoció que lo más importante para las organizaciones era generar confianza entre los clientes, al tiempo de que se garantizara la utilización de los datos de forma ética.
Conozca nuestras soluciones en Inteligencia Artificial
Entre las principales preocupaciones que hoy genera el uso de la IA generativa, los encuestados citaron las amenazas a los derechos legales y de la propiedad intelectual de una organización (69%) y el riesgo de divulgación de información al público o a los competidores (68%).
“Las empresas ven a la IA generativa como una tecnología fundamentalmente diferente con nuevos desafíos a considerar. Más del 90% de los encuestados creen que la IA generativa requiere nuevas técnicas para gestionar los datos y el riesgo. Aquí es donde entra en juego una gobernanza reflexiva y preservar la confianza de los clientes depende de ello”, comentó Dev Stahlkopf, chief legal officer de Cisco.
Pero si bien hay grandes desafíos en materia de control y privacidad, el informe evidenció que la mayoría de las organizaciones están poniendo en marcha controles para limitar la exposición.
Es así como el 63% ha establecido limitaciones sobre los datos que se pueden introducir, el 61% tiene límites sobre las herramientas de IA generativa que pueden utilizar los empleados y el 27% dijo que su organización había prohibido las aplicaciones de IA generativa por el momento.
El reporte de Cisco también constató que las prioridades de las organizaciones para generar confianza entre los consumidores difieren de las prioridades de los particulares.
Por ejemplo, el 25% de los consultados afirmó que una de sus principales prioridades eran cumplir la legislación sobre privacidad, mientras que el 23% de los ejecutivos dijo que su prioridad era evitar las violaciones de datos.
“Esto sugiere que sería útil prestar más atención a la transparencia, especialmente en el caso de las aplicaciones de IA, en las que puede resultar difícil comprender cómo toman sus decisiones los algoritmos”, enmarcó el reporte.
A pesar de los costos y requisitos que las leyes de privacidad pueden imponer a las organizaciones, el 80% de los encuestados dijo que las leyes de privacidad han tenido un impacto positivo dentro de las organizaciones, y solo el 6% manifestó que el impacto ha sido negativo. Según concluye el reporte, una normativa sólida en materia de privacidad aumentaría la confianza de los consumidores en las organizaciones con las que deciden compartir sus datos.
Si bien en muchas empresas la protección de los datos ha sido evaluada con gran detenimiento, lo cierto es que implementar políticas de privacidad también requiere de grandes inversiones.
De acuerdo con el informe de Cisco, el gasto en privacidad se ha más que duplicado en los últimos cinco años, lapso durante el cual los beneficios han tendido al alza y la rentabilidad se ha mantenido fuerte.
Este año, el 95% de los ejecutivos consultados indicó que los beneficios de la privacidad superan sus costos.
Además, el 80% indicó obtener importantes beneficios de “lealtad y confianza” de sus inversiones en privacidad, y esto es incluso mayor (92%) para las organizaciones más maduras en privacidad.
“En 2023, las organizaciones más grandes (más de 10.000 empleados) aumentaron su gasto en privacidad entre un 7% y un 8%. Sin embargo, las organizaciones más pequeñas registraron una menor inversión, por ejemplo, las empresas con 50-249 empleados, disminuyeron su inversión en privacidad en una cuarta parte del promedio”, resaltó el reporte.
El informe también enmarcó algunas recomendaciones para las empresas, a la hora de generar confianza entre sus clientes.
Por ejemplo, destacan la necesidad de proporcionar una mayor transparencia sobre cómo su organización aplica, gestiona y utiliza la información personal.
Igualmente, sugieren establecer programas de gestión ética de la inteligencia artificial, que involucren a humanos en el proceso y que se logre eliminar cualquier sesgo en los algoritmos cuando se utiliza la IA para automatizar la toma de decisiones que involucran datos de clientes.
Según la empresa, este informe explora la privacidad actual, las tendencias, desafíos y oportunidades. Este se basó en datos recopilados en el verano de 2023 a partir de una encuesta anónima que se realizó en 12 países.
Fue así como se indagó sobre las prácticas de privacidad dentro de las organizaciones y gasto, reacciones a la legislación sobre privacidad, requisitos de localización de datos e inteligencia artificial.
“Los hallazgos de esta investigación demuestran la continua importancia de la privacidad para empresas y cómo sirven a sus clientes. La privacidad se ha convertido en un elemento crítico y facilitador de la confianza del cliente”, concluyó el informe de Cisco.
