Los riesgos de la AI deben abordarse como los de desastres naturales
Por Prashanth Gangu, Partner de la Práctica Digital y de Seguros en Oliver Wyman/Brink News
Los riesgos planteados por los dispositivos inteligentes pronto superarán la magnitud de los asociados con desastres naturales. Decenas de miles de millones de sensores conectados se están integrando en todo, desde robots industriales y sistemas de seguridad hasta automóviles y refrigeradores que se conducen por sí mismos. Al mismo tiempo, las capacidades de los algoritmos de inteligencia artificial (AI, por sus siglas en inglés) evolucionan rápidamente. Nuestra creciente dependencia de tantos dispositivos inteligentes conectados está abriendo la posibilidad de cierres a escala global.
La buena noticia es que los desastres naturales en sí mismos, que Munich Re dice causaron USD$330 billones en pérdidas económicas a nivel mundial en 2017, proporcionan una plantilla sobre cómo mitigar el creciente y catastrófico riesgo que representa AI. Al igual que para el clima extremo y los desastres naturales, las compañías pueden comenzar a establecer protocolos y estándares internacionales para gobernar la IA dentro de sus propios muros, así como en sus relaciones con otras compañías, aseguradoras y formuladores de políticas.
Planes de recuperación inteligente de dispositivos
Hoy en día, muchas empresas están expuestas a riesgos de dispositivos inteligentes que podrían dañar tanto sus propias operaciones como las de sus clientes. Sin embargo, pocos han cuantificado formalmente el tamaño de sus ingresos en riesgo y responsabilidad potencial. Tampoco han establecido protocolos de seguridad para posibles eventos de AI.
Ellos deberían. Al igual que los riesgos asociados con los desastres naturales, las empresas no pueden protegerse completamente contra los riesgos de los dispositivos inteligentes comprando un seguro; deben tener listos planes de recuperación considerando el peor escenario. Los gerentes deben descubrir sus vulnerabilidades de dispositivos inteligentes de mayor y menor riesgo, agregar sistemas redundantes y posiblemente configurar el equivalente de AI de los sistemas de alerta temprana de tsunamis. Además, necesitan ser capaces de cambiar a entornos controlados manualmente en caso de que los sistemas artificialmente inteligentes deban cerrarse y de retirar productos inteligentes defectuosos.
Los planes de contingencia deben ir más allá de una guía de desastres naturales. Dado los muchos puntos potenciales de conectividad, será mucho más difícil predecir, identificar y corregir la causa de fallas de dispositivos inteligentes a gran escala. Depurar y reprogramar un dispositivo inteligente defectuoso es incluso más complicado que crear un parche para luchar contra un ataque cibernético malévolo, porque no está claro qué reglas siguen las máquinas.
Como resultado, ninguna compañía podrá recuperarse por sí sola. Para recuperarse del impacto potencial de un conjunto en cascada de crisis globales relacionadas con la AI, los gerentes deberán considerar las vulnerabilidades que existen en todas partes, desde sus proveedores hasta sus clientes. Abordar esas vulnerabilidades requerirá la coordinación entre un gran número de proveedores de servicios de tecnología y otras compañías que podrían atrapar o propagar una infección de AI a otros, independientemente de quién sea el culpable.
Productos y servicios de seguros de AI
Las aseguradoras deben cuantificar su exposición a una fusión global de dispositivos inteligentes, ofrecer nuevos productos y asesorar a las empresas y los gobiernos. Incluso con aproximadamente USD $700 billones en capital disponible en los Estados Unidos y cientos de miles de millones de dólares más en todo el mundo, los balances de las aseguradoras de propiedades y accidentes son demasiado pequeños para cubrir todas las pérdidas potenciales de un desastre de dispositivos inteligentes a nivel mundial. Pero las aseguradoras pueden usar los datos recopilados sobre las pérdidas en todas las industrias para asesorar a las empresas y los gobiernos sobre la mejor manera de cuantificar su exposición potencial al peor de los casos.
Como lo han hecho con las catástrofes naturales, las aseguradoras también pueden alentar las salvaguardas del sector público. Dado que las aseguradoras no pueden mitigar por completo los riesgos desmesurados que suponen los fenómenos climáticos extremos, los gobiernos de muchos países desarrollados y organizaciones internacionales brindan alivio de catástrofes naturales a través de agencias gubernamentales como la Agencia Federal para el Manejo de Emergencias y programas públicos de seguro contra inundaciones. Las aseguradoras deben ayudar a movilizar recursos similares del sector público para ayudar a las posibles víctimas de un desastre de dispositivos inteligentes con inteligencia artificial.
Además, pueden comenzar a asesorar a los clientes sobre cómo pueden mejorar sus protocolos de seguridad y protección para evitar las peligrosas repercusiones de un colapso de dispositivos inteligentes. Hoy en día, algunas aseguradoras líderes sugieren procedimientos de seguridad que las empresas podrían seguir para atender violaciones de información e interrupciones en caso de una falla global de los sistemas interconectados. Pero también deberían comenzar a explorar pasos para abordar el potencial de los dispositivos inteligentes que se vuelven aún más sofisticados y que potencialmente establecen y siguen sus propios objetivos.
Protocolos internacionales de AI
Por último, los responsables de las políticas deberían establecer pautas internacionales de confianza y ética para gobernar el desarrollo y la implementación de productos y sistemas de IA cada vez más avanzados. Para reducir el impacto futuro de los desastres naturales, los gobiernos y las organizaciones internacionales como la Cruz Roja Americana y el Banco Mundial recopilan y comparten datos sobre las ramificaciones destructivas y el apoyo requerido para ayudar a las víctimas. Una inteligencia similar será crítica para frenar el impacto de posibles descargas de dispositivos inteligentes a medida que evoluciona la inteligencia artificial y la cantidad de dispositivos de IoT conectados, sensores y actuadores llegará a más de 46 billones en 2021, según Juniper Research.
Alrededor de una docena de gobiernos, empresas tecnológicas y organizaciones internacionales como el Instituto de Ingenieros Eléctricos y Electrónicos y el Foro Económico Mundial están comenzando a explorar protocolos mundiales de confianza y ética para mantener el control de los sistemas y productos interconectados impulsados por la inteligencia artificial. Estos foros están empezando a profundizar la comprensión del daño potencial que los dispositivos inteligentes podrían causar y la necesidad de mejores prácticas. Pero se tiene que hacer mucho más.
Establecer los recursos necesarios para reducir los riesgos que vendrá con la transición del mundo a redes más inteligentes e interconectadas será difícil y costoso. Pero no podemos darnos el lujo de no hacerlo, y nuestra experiencia de responder a algunas de las peores "tormentas de 100 años" del mundo ofrece un valioso punto de partida para descubrir cómo superar desastres potencialmente más severos. Solo necesitamos que las compañías, las aseguradoras y los legisladores reconozcan que tales esfuerzos son una inversión esencial en nuestro futuro.