La inteligencia artificial no solo está transformando la productividad, la educación y los negocios. También empezó a potenciar una nueva generación de amenazas digitales. Así lo expuso Check Point Research en su primer Informe sobre Seguridad de IA, presentado durante la Conferencia RSA 2025, donde analizó cómo los ciberdelincuentes ya están aprovechando modelos generativos y grandes modelos de lenguaje para volver sus ataques más sofisticados, creíbles y difíciles de detectar.
Según el informe, una de las principales preocupaciones pasa por la capacidad de la IA para fabricar engaños con un nivel de realismo inédito. Correos, audios, videos y conversaciones falsas pueden ser generados para campañas de phishing, extorsión o manipulación. Incluso se menciona un caso de imitación por voz de un funcionario europeo, utilizado para engañar a interlocutores reales.
Pero el riesgo no termina ahí. El reporte también advierte sobre el “envenenamiento” de datos, una práctica que busca alterar la información con la que se entrenan modelos de IA para sesgar respuestas o instalar narrativas falsas. En paralelo, estas tecnologías ya se usan para optimizar malware, reforzar ataques DDoS y administrar datos robados con mayor eficiencia dentro de circuitos clandestinos.
Otro punto crítico es la aparición de versiones modificadas de modelos de lenguaje, como FraudGPT o WormGPT, diseñadas para esquivar controles y facilitar fraudes o accesos no autorizados. La preocupación crece porque estas herramientas ya circulan en foros clandestinos, lo que baja la barrera de entrada para actores con menos experiencia técnica pero con intenciones delictivas.
Frente a este escenario, Check Point sostiene que la defensa también debe apoyarse en inteligencia artificial. Entre las recomendaciones aparecen la detección de contenido sintético, mecanismos de verificación de identidad más avanzados e inteligencia contextual para anticipar tácticas basadas en IA. El mensaje es claro: la IA ya forma parte del ecosistema de amenazas y las organizaciones que no adapten su estrategia de ciberseguridad podrían quedar varios pasos atrás.
