La inteligencia artificial se convierte en el nuevo campo de batalla para hackers y empresas

En una sala de conferencias en una oficina, el CEO está al frente de la mesa y plantea una pregunta: "¿Quién se beneficiará primero de la inteligencia artificial, nuestra empresa o los hackers?". La respuesta está evolucionando tan rápidamente como la tecnología en sí. Desde que la inteligencia artificial se popularizó en 2023, se ha vuelto crítica en la batalla por la ciberseguridad.

En el ámbito empresarial, los equipos de seguridad están integrando inteligencia artificial tradicional y las últimas defensas de inteligencia artificial generativa (gen AI), con un 69 por ciento de ejecutivos senior preparándose para implementar estas defensas en el próximo año, según la encuesta Global Digital Trust Insights 2024 de PwC. Pero en las sombras, los actores maliciosos ya están incorporando inteligencia artificial a sus arsenales, y las empresas lo saben.

Los CEOs citaron posibles brechas cibernéticas como el principal riesgo relacionado con gen AI en la Global CEO Survey 2024 de PwC. Gen AI está revolucionando el arsenal de los hackers, haciendo que amenazas cibernéticas sofisticadas sean accesibles incluso para hackers novatos.

Mientras los empleados utilizan la tecnología para acceder a conocimientos especializados, los hackers novatos están utilizando gen AI para diseñar ataques de phishing y desinformación, para luego automatizarlos y escalarlos. De la misma manera en que tus equipos creativos hacen lluvia de ideas y prototipos utilizando gen AI, los hackers pueden desarrollar ataques "zero-day" para aprovechar vulnerabilidades.

Algunos de estos ataques pueden ser particularmente insidiosos, corrompiendo y volviendo a entrenar las defensas cibernéticas para ignorar actividades dañinas. Esta explosión impulsada por la inteligencia artificial en la creatividad de los hackers puede hacer que las estrategias tradicionales de defensa cibernética sean obsoletas.

Los manuales y reglas basadas en tácticas, técnicas y procedimientos (TTPs) ya no son suficientes. Una defensa ágil impulsada por inteligencia artificial y aprendizaje automático podría ser la única protectora contra estas amenazas habilitadas por inteligencia artificial.

3 Áreas Donde la IA Podría Transformar las Defensas Cibernéticas Hoy

La inteligencia artificial puede ayudar a abordar estos nuevos riesgos y manejar mejor las amenazas antiguas. A diferencia de los sistemas basados en reglas, la inteligencia artificial a menudo puede predecir la probabilidad de un evento, incluso si nunca ha ocurrido antes, y sugerir formas de defenderse contra él al mismo tiempo que predice los costos potenciales.

La inteligencia artificial también puede ser un multiplicador de fuerzas en tus sistemas cibernéticos existentes. Muchas herramientas cibernéticas comerciales contienen capacidades de aprendizaje automático, que la inteligencia artificial puede ayudar a unir para lograr una visión unificada y personalizable de las amenazas con el fin de satisfacer tus necesidades de seguridad únicas.

Entre las muchas áreas en las que la inteligencia artificial puede mejorar la ciberseguridad, aquí hay tres áreas donde el valor puede llegar especialmente rápido:

1. Gestión de Amenazas y Vulnerabilidades (TVM) Para ayudar a aligerar la carga de los equipos de TVM, la IA puede ingerir datos de los sistemas de ciberseguridad, cuantificar las relaciones entre sistemas y vulnerabilidades, e identificar amenazas, incluso aquellas que pueden eludir los sistemas de detección basados en firmas. Luego, la IA puede regresar a los sistemas de ciberseguridad fuente y remediar las vulnerabilidades, creando una defensa "auto-sanitaria".

2. Monitoreo de Seguridad Dado que el monitoreo de seguridad produce una gran cantidad y variedad de datos semiestructurados, limpios y deterministas, la IA a menudo puede automatizar y acelerar el análisis y la respuesta. Dado que la IA puede resistir falacias analíticas que a menudo afectan a los analistas humanos, puede detectar problemas que las personas podrían pasar por alto.

3. Prevención de Pérdida de Datos Para ayudar a prevenir brechas (y ahorrar a las personas trabajo tedioso y repetitivo), la IA puede monitorear y clasificar datos, identificar información sensible y detectar posibles brechas.

Cómo Puedes Ayudar a Mantener Segura la Inteligencia Artificial

Para una inteligencia artificial (cibernética u otra) con un rendimiento alto y gestionado de manera responsable, se debe tener un enfoque de IA Responsable que cubra la selección de casos de uso, gobernanza, controles, datos, validación de salidas, políticas de uso, cumplimiento, y más.

La IA Responsable puede, por ejemplo, ayudar a asegurarse de que los datos de entrenamiento sean adecuados para el propósito previsto y estén íntegros, y que las entradas y salidas sean rigurosamente supervisadas. Se pueden considerar diferentes riesgos a la luz de tu modelo de IA, tus casos de uso y tolerancia al riesgo, y luego tomar decisiones que ayuden a reducir esos riesgos a niveles aceptables.

La IA Responsable a menudo acelera las iniciativas de IA y su retorno de la inversión. Con datos más confiables y controles y gobernanza más efectivos, por ejemplo, es probable que haya menos errores, se necesiten menos repeticiones y se logren resultados de mayor calidad. Estarás en una mejor posición para ganar la confianza de los clientes y partes interesadas y obtener la aprobación para acelerar la implementación.

Aumenta la Capacidad de Tu Equipo a un Costo Marginal

La IA podría permitir a tu equipo hacer más con menos. Puede manejar muchas tareas individuales sin intervención humana. Cuando las personas responden a incidentes cibernéticos, pueden hacerlo rápidamente, ya que la IA ya habrá convertido los datos en información práctica sobre amenazas presentes y potenciales. Gracias a la capacidad predictiva de la IA, tu equipo puede crear nuevas defensas y establecer prioridades incluso antes de que las nuevas amenazas se materialicen.

Una vez que la IA esté en funcionamiento, el costo marginal de cada nuevo uso puede ser cercano a cero: Tus equipos pueden enviar datos a los mismos sistemas de IA y compartir modelos para realizar nuevos trabajos. Es probable que no necesites contratar nuevos empleados para nuevos casos de uso, solo capacitar a tu equipo actual.

Los especialistas en ciberseguridad dedicarán cada vez más su tiempo a la estrategia, supervisión de la IA y ciencia de datos exploratoria, mejorando continuamente los modelos para que puedan satisfacer mejor las necesidades de seguridad. Entonces, puedes tener una función de ciberseguridad dirigida por humanos y potenciada por tecnología: la IA ayudará a multiplicar la capacidad y efectividad de tu equipo, mientras estos siguen estando firmemente en control.