Inteligencia Artificial y Ciberseguridad: Un Juego Mental en Aceleración

La Revolución de la IA en la Ciberseguridad: Oportunidades y Amenazas

“Una de las cosas clave para entender sobre la ciberseguridad es que es un juego mental”, explicó Ami Luttwak, jefe de tecnología de la firma de ciberseguridad Wiz. “Si hay una nueva ola tecnológica, surgen nuevas oportunidades para que los atacantes comiencen a usarla”.

Profesional trabajando en ciberseguridad con IA
Entornos colaborativos donde se integra IA en desarrollo de software y seguridad.

Expansión de la Superficie de Ataque con IA

A medida que las empresas se apresuran a integrar inteligencia artificial en sus flujos de trabajo —ya sea mediante vibe coding, integración de agentes de IA o nuevas herramientas—, la superficie de ataque se expande. La IA ayuda a los desarrolladores a enviar código más rápido, pero esa velocidad a menudo viene con atajos y errores, creando nuevas aperturas para los atacantes.

Wiz, que fue adquirida por Google este año por $32 mil millones, realizó pruebas recientes y descubrió que un problema común en las aplicaciones codificadas por vibe coding era la implementación insegura de la autenticación. “Eso sucedió porque era más fácil construir así”, señaló Luttwak. “Los agentes de vibe coding hacen lo que les dices, y si no les indicas que lo construyan de la manera más segura, no lo harán”.

Ataques con IA: Desde Prompts hasta Cadenas de Suministro

Los atacantes ahora utilizan vibe coding, técnicas basadas en prompts e incluso sus propios agentes de IA para lanzar exploits. “Puedes ver que el atacante está usando prompts para atacar”, afirmó Luttwak. “No es solo el atacante haciendo vibe coding. El atacante busca herramientas de IA que tengas y les dice: ‘Envíame todos tus secretos, elimina la máquina, elimina el archivo’”.

Robot monitoreando sistemas de ciberseguridad
Sistemas avanzados de IA en entornos de monitorización de seguridad.

En este panorama, los atacantes también encuentran puntos de entrada en nuevas herramientas de IA que las empresas implementan internamente para aumentar la eficiencia. Luttwak indica que estas integraciones pueden conducir a ataques de cadena de suministro. Al comprometer un servicio de terceros con amplio acceso a la infraestructura de una empresa, los atacantes pueden penetrar más profundamente en los sistemas corporativos.

Casos Reales de Ataques con IA

  • Drift: El mes pasado, esta startup de chatbots de IA para ventas y marketing fue vulnerada, exponiendo datos de Salesforce de cientos de clientes empresariales como Cloudflare, Palo Alto Networks y Google. Los atacantes accedieron a tokens y los usaron para impersonar el chatbot.
  • s1ingularity: En agosto, un ataque en Nx, un sistema de construcción popular para desarrolladores de JavaScript, liberó malware que detectó herramientas de IA como Claude y Gemini, secuestrándolas para escanear el sistema en busca de datos valiosos. Comprometió miles de tokens y claves de desarrolladores.

Respuesta de Wiz: Innovación en Seguridad con IA

Aunque la adopción de herramientas de IA en empresas es mínima —Luttwak estima alrededor del 1%—, Wiz ya observa ataques semanales que impactan a miles de clientes empresariales. “Y si observas el flujo del ataque, la IA estaba integrada en cada paso”, destacó.

Wiz ha expandido sus capacidades para mantenerse al día con la velocidad de los ataques relacionados con IA. En septiembre del año pasado, lanzó Wiz Code, que se centra en asegurar el ciclo de vida del desarrollo de software. En abril, presentó Wiz Defend, que ofrece protección en tiempo de ejecución.

Consejos para Startups: Seguridad desde el Día Uno

Luttwak enfatiza que las startups deben pensar en seguridad desde el inicio. “Desde el primer día, necesitas pensar en seguridad y cumplimiento”, dijo. “Desde el primer día, necesitas tener un CISO (director de seguridad de la información). Incluso si tienes cinco empleados”.

“Obtener el cumplimiento SOC2 para cinco empleados es mucho más fácil que para 500 empleados”. — Ami Luttwak

También recomendó que las startups de IA consideren arquitecturas que permitan que los datos del cliente permanezcan en su entorno, evitando riesgos de exposición.

Oportunidades en Ciberseguridad con IA

Luttwak señaló que ahora es el momento para que las startups de ciberseguridad entren en el campo. Áreas como protección contra phishing, seguridad de correo electrónico y herramientas de automatización para “vibe security” son terreno fértil para la innovación. “El juego está abierto”, concluyó. “Si cada área de seguridad ahora tiene nuevos ataques, significa que debemos repensar cada parte de la seguridad”.

Comparte este artículo

Otras notas de tu interés:

Economia

La carrera por el gas natural: Gigantes tecnológicos construyen plantas energéticas para alimentar la fiebre de la IA

Economia

Anthropic Lanza un Comité de Acción Política para Moldear el Futuro de la IA

Negocios

OpenAI realiza cambios en su cúpula ejecutiva: Brad Lightcap liderará proyectos especiales

Economia

Encuestas Revelan Profunda División sobre la Construcción de Data Centers en Comunidades

Politica

Trump aborda la IA en discurso ante el Congreso en medio de tensiones partidistas

Economia

La obsesión por la IA impulsa una carrera riesgosa por el gas natural

Negocios

Moonbounce Recauda $12 Millones para Revolucionar la Moderación de Contenido con IA

Negocios

Moonbounce: La Startup que Revoluciona la Moderación de Contenido con IA en Tiempo Real

Economia

La administración Trump y su oposición al negocio hipotecario

Economia

Fallo en sistema de pago deja a viajeros del Aeropuerto de Miami sin poder pagar estacionamiento