The Straits Time / Kew Yoke Ling
¿Su organización sigue trabajando con datos inconexos? Si es así, la IA que los gestiona solo ve una parte de la información.
Las plataformas basadas en inteligencia artificial se han convertido en un elemento central de la guerra moderna. En la guerra entre Rusia y Ucrania, se utilizaron para integrar imágenes de drones, imágenes satelitales e informes terrestres en una única visión operativa.
La plataforma
ucraniana de conocimiento de la situación Delta, desarrollada con el apoyo de
la OTAN, recopila datos del campo de batalla de múltiples fuentes para que los
comandantes puedan supervisar los movimientos, detectar anomalías y priorizar
las respuestas con mayor rapidez que antes.
La lección más
reciente y aleccionadora proviene de la campaña contra Irán, impulsada por
inteligencia artificial, en los últimos meses. Mediante el Proyecto
Maven, las fuerzas israelíes y estadounidenses atacaron miles de
objetivos con una velocidad y precisión nunca vistas, integrando información de
inteligencia en tiempo real.
Estos sistemas
no basan su valor en un único algoritmo, sino en su capacidad para integrar
datos fragmentados en una visión coherente. Estos mismos principios son ahora
fundamentales para las empresas que operan en entornos digitales cada vez más
complejos.
Integración de
datos
Imagina que
diriges un banco, un hospital o una agencia gubernamental. En algún lugar de
tus sistemas, ahora mismo, hay una señal. Podría ser un patrón de transacciones
que no parece correcto. Podría ser una anomalía en los datos de los pacientes
que indica que algo está a punto de salir mal. Podría ser una alerta de
cumplimiento oculta entre miles de otras.
Usted no sabe
que está ahí, no porque los datos no existan, sino porque sus sistemas nunca
fueron diseñados para sacarlos a la luz a tiempo.
Por ejemplo, los
ciberataques no se limitan al robo de datos. Se trata de interrumpir sistemas a
gran escala, en tiempo real, de maneras que los sistemas de monitoreo
tradicionales nunca fueron diseñados para detectar.
Para hacer
frente a estas amenazas se requiere no solo inteligencia artificial, sino
también la integración de datos fragmentados. Sin ello, incluso el mejor modelo
de IA solo percibe una parte de la verdad.
En el sector
privado, los bancos que han integrado la monitorización de transacciones en
todos los canales han reducido considerablemente el tiempo de investigación de
fraudes, ya que los analistas ya no necesitan recopilar información de sistemas
separados.
OCBC Bank
aprendió una dura lección cuando, a finales de 2021 y principios de 2022,
sufrió un grave ataque de phishing por SMS. Los clientes perdieron más de 13,7
millones de dólares entre al menos 790 víctimas en cuestión de semanas.
Posteriormente, la Autoridad Monetaria de Singapur ordenó a todos los
principales bancos minoristas que implementaran la vigilancia del fraude en tiempo
real y un período de espera de 12 horas para la emisión de tokens digitales.
Tras el ataque,
el banco reconoció en su informe anual de 2022 la creciente importancia de
protegerse contra fraudes y estafas, y revisó sus medidas de seguridad,
centrándose en proteger las transacciones integradas y reforzar las defensas de
la banca digital.
Este episodio
dejó algo claro: en el sector financiero, la velocidad con la que se detectan
las señales y se actúa en consecuencia no es una ventaja competitiva. Es un
estándar mínimo de confianza, y ese estándar se está redefiniendo en tiempo
real.
Actualmente, los
ciberdelincuentes despliegan sistemas de IA que sondean, se adaptan y atacan
más rápido de lo que cualquier equipo de analistas puede responder manualmente,
sintetizando ataques y canalizando flujos fraudulentos a través del sistema
incluso antes de que la monitorización tradicional haya registrado la alerta.
En el ámbito
sanitario, la rapidez con la que la información correcta llega a la persona
adecuada puede marcar la diferencia entre detectar una complicación a tiempo y
no detectarla por completo.
Imaginemos a una
enfermera de planta que antes tenía que consultar tres sistemas distintos para
comprobar si el deterioro de las constantes vitales de un paciente coincidía
con su historial de medicación. Hoy en día, la IA puede detectar esa conexión
en segundos, señalando la anomalía antes de que se convierta en una crisis.
Una de las
iniciativas más prácticas que están ocurriendo actualmente se desarrolla dentro
de la propia sala de consulta. Los sistemas de IA de voz están presentes en las
conversaciones entre médicos, pacientes, enfermeros y cuidadores,
transcribiendo en tiempo real en diferentes idiomas y, al mismo tiempo,
proporcionando pistas diagnósticas al médico.
La IA procesa
las notas y señala lo que podría haberse pasado por alto en segundo plano. El
tiempo de consulta se reduce hasta en un 30 % por sesión y la atención clínica
vuelve a centrarse donde debe estar: en la persona que está en la sala.
En el aspecto
operativo, la planificación de turnos mediante inteligencia artificial ha
reducido el tiempo de programación hasta en un 80 %, al tiempo que ha absorbido
la imprevisibilidad diaria que antes se traducía en salas con poco personal y
equipos sobrecargados. El sistema ahora anticipa las carencias en lugar de
reaccionar ante ellas.
Para los
pacientes, esto significa una atención más constante y confiable. Para los
equipos clínicos, significa menos tiempo dedicado a solucionar problemas
urgentes y más tiempo para la recuperación. Si estas herramientas se pueden
implementar de forma segura y a gran escala, el impacto acumulativo en los
resultados de los pacientes es significativo.
Responsabilidad
difusa
Si bien la
velocidad, la escalabilidad y la eficiencia son las promesas de la IA
empresarial, lo más peligroso de un sistema de este tipo no es que pueda
fallar, sino que, cuando lo haga, la responsabilidad no debería ser difusa.
Cuando algo sale
mal y el rastro de la decisión apunta a un sistema de IA, ¿quién es el
responsable?
El conflicto con
Irán suscitó una preocupación que los líderes empresariales no deberían
ignorar. Cuando una escuela primaria fue probablemente atacada por fuerzas
estadounidenses, causando la muerte de más de 175 niños y maestros, surgieron
dudas sobre si la inteligencia artificial seleccionó el objetivo o si los
funcionarios estadounidenses responsables de crear los paquetes de información
sobre objetivos habían utilizado inteligencia desactualizada.
Así es como se
ve en la práctica la rendición de cuentas difusa, y no es algo exclusivo de la
guerra.
En el sector de
los servicios financieros, un sistema de IA que deniega una reclamación de
seguro legítima, señala una transacción errónea o calcula mal el riesgo para un
segmento de clientes puede causar daños reales incluso antes de que el patrón
sea visible en los datos.
En el ámbito
sanitario, un algoritmo de triaje que prioriza de forma sistemática un perfil
de paciente inferior, o un sistema de documentación que muestra información
incompleta a un médico, pueden tener consecuencias que se acumulan
silenciosamente durante meses.
El daño no
siempre es repentino. A veces se acumula, y cuando alguien finalmente pregunta
cómo sucedió, la institución debe poder responder.
Las empresas
deberán incorporar la capacidad de explicar, rastrear y anular en cada nivel.
La alternativa es una organización que ha cedido su responsabilidad a un
sistema incapaz de hablar por sí mismo.
La siguiente
fase de la IA empresarial
La IA ya no
opera silenciosamente en segundo plano. Ya está transformando la forma en que
se gestionan situaciones complejas: en conflictos globales, en sistemas
financieros, en la atención médica y en las infraestructuras de las que
dependen las economías.
La Estrategia
Nacional de IA 2.0 de Singapur, lanzada en 2023, posiciona a la IA como una
capacidad fundamental para la competitividad económica y la resiliencia
nacional, con un enfoque en el despliegue confiable de la IA en las finanzas y
la atención médica.
En el ámbito de
la ASEAN, la Guía de la ASEAN sobre Gobernanza y Ética de la IA está impulsando
a los Estados miembros hacia un marco común para un despliegue responsable.
La IA debería
agilizar los procesos y liberar a las personas de tareas repetitivas que
podrían emplear mejor su tiempo. Sin embargo, la velocidad por sí sola no es el
objetivo, ni debería ser la medida del éxito. La IA puede descubrir información
valiosa en los datos que las organizaciones ni siquiera sabían que tenían, y en
sectores críticos, esto tiene consecuencias importantes.
Pero la clave
está en garantizar una supervisión humana eficaz, independientemente de la
capacidad del sistema subyacente.
Este principio
es directamente aplicable a la IA empresarial. Cuando la IA toma decisiones
sobre fraude, crédito, atención al paciente o cumplimiento normativo, el
razonamiento que las sustenta debe ser visible, rastreable y estar sujeto a
revisión. No se trata de un requisito burocrático, sino de que la rendición de
cuentas sin una cadena de razonamiento clara no es rendición de cuentas en
absoluto.
Kew Yoke Ling es
directora ejecutiva de KewMann, una empresa de inteligencia artificial con sede
en Singapur que utiliza la ciencia del comportamiento para obtener información
sobre el comportamiento de los clientes y los empleados.
Las empresas
deberán incorporar la capacidad de explicar, rastrear y anular en cada nivel.
La alternativa es una organización que ha cedido su responsabilidad a un
sistema incapaz de hablar por sí mismo.
Las empresas
deberán incorporar la capacidad de explicar, rastrear y anular en cada nivel.
La alternativa es una organización que ha cedido su responsabilidad a un
sistema incapaz de hablar por sí mismo.
No hay comentarios:
Publicar un comentario