La falta de confianza en la inteligencia artificial no está frenando su adopción. Por el contrario, las personas siguen utilizándola e incluso comienzan a delegarle decisiones. El estudio EY AI Sentiment Study, basado en más de 18,000 personas en 23 mercados, encontró que el 16 % de los participantes ha utilizado la IA para que actúe en su nombre en los últimos seis meses, incluso en ámbitos como la salud, finanzas y transporte.
«La IA avanza hacia una mayor autonomía en la toma de decisiones, mientras que la confianza de las personas no crece al mismo ritmo. Esta brecha puede traducirse en riesgos relevantes para las organizaciones y sus stakeholders. Por ello, el verdadero desafío no radica únicamente en incorporarla, sino en hacerlo correctamente. La IA autónoma puede ser un potente acelerador de competitividad, siempre que se tenga claridad sobre dónde avanzar con decisión y dónde priorizar la construcción de confianza, control y transparencia«, indica Francisco Escudero, Socio de Consultoría de EY Perú.
En paralelo, el estudio indica que la seguridad sigue siendo una de las principales preocupaciones en torno al uso de la IA: dos tercios de los participantes en el estudio teme ciberataques o filtraciones y cerca de la mitad confía en que las empresas protejan los datos. También preocupa el control: 7 de cada 10 personas consideran esencial la supervisión humana, pues temen que las decisiones de la IA no reflejen sus valores.
Además, preocupa que las organizaciones no asuman responsabilidad en el uso de la inteligencia artificial: seis de cada diez personas temen que las organizaciones no asuman las consecuencias negativas que esta pueda generar. En la misma línea, 55% desconfía de que cumplan tanto sus propias políticas de IA como las regulaciones gubernamentales aplicables.
«A medida que la inteligencia artificial gana autonomía, el foco ya no está solo en su adopción, sino en cómo se gestiona. Las organizaciones deberán responder a nuevas exigencias de las personas en torno a la transparencia, el control y la rendición de cuentas, integrando estos elementos desde el diseño para generar confianza de forma sostenida», señala Escudero.
Por otro lado, el estudio señala las implicaciones que tiene este rápido avance de la IA para los líderes empresariales, para quienes la dinámica actual del mercado representa tanto una oportunidad como una responsabilidad.
En esa línea, EY plantea cuatro líneas de acción para los ejecutivos:
· Liderar con experiencia, no con promesas: priorizar aplicaciones de IA que aporten valor claro y cotidiano, y que permitan control por parte de las personas a medida que aumenta la confianza.
· Segmentar según el grado de preparación para la IA: adaptar experiencias y estrategias a distintos niveles de adopción, según las necesidades de los usuarios.
· Hacer visible la confianza: garantizar transparencia, protección de datos, supervisión humana y rendición de cuentas, a medida que aumenta la autonomía.
· Diseñar para el contexto emocional: incorporar empatía, simplicidad y enfoque humano para fomentar la adopción.
«El diseño se ha convertido en el punto de encuentro entre innovación y confianza, especialmente en el Perú, donde —según el último estudio Madurez Digital de EY Perú— el 74% de las organizaciones avanza en su transformación digital, impulsada por la inteligencia artificial, la gestión de datos y la ciberseguridad. En este contexto, cerrar la brecha de confianza en la IA es clave y solo se logra desde la experiencia real de los usuarios: lo que comprenden, perciben y sienten al interactuar con estos sistemas«, finaliza Escudero.
