Inteligencia Artificial y Ciberseguridad: Un Juego Mental en Aceleración

La Revolución de la IA en la Ciberseguridad: Oportunidades y Amenazas

“Una de las cosas clave para entender sobre la ciberseguridad es que es un juego mental”, explicó Ami Luttwak, jefe de tecnología de la firma de ciberseguridad Wiz. “Si hay una nueva ola tecnológica, surgen nuevas oportunidades para que los atacantes comiencen a usarla”.

Profesional trabajando en ciberseguridad con IA
Entornos colaborativos donde se integra IA en desarrollo de software y seguridad.

Expansión de la Superficie de Ataque con IA

A medida que las empresas se apresuran a integrar inteligencia artificial en sus flujos de trabajo —ya sea mediante vibe coding, integración de agentes de IA o nuevas herramientas—, la superficie de ataque se expande. La IA ayuda a los desarrolladores a enviar código más rápido, pero esa velocidad a menudo viene con atajos y errores, creando nuevas aperturas para los atacantes.

Wiz, que fue adquirida por Google este año por $32 mil millones, realizó pruebas recientes y descubrió que un problema común en las aplicaciones codificadas por vibe coding era la implementación insegura de la autenticación. “Eso sucedió porque era más fácil construir así”, señaló Luttwak. “Los agentes de vibe coding hacen lo que les dices, y si no les indicas que lo construyan de la manera más segura, no lo harán”.

Ataques con IA: Desde Prompts hasta Cadenas de Suministro

Los atacantes ahora utilizan vibe coding, técnicas basadas en prompts e incluso sus propios agentes de IA para lanzar exploits. “Puedes ver que el atacante está usando prompts para atacar”, afirmó Luttwak. “No es solo el atacante haciendo vibe coding. El atacante busca herramientas de IA que tengas y les dice: ‘Envíame todos tus secretos, elimina la máquina, elimina el archivo’”.

Robot monitoreando sistemas de ciberseguridad
Sistemas avanzados de IA en entornos de monitorización de seguridad.

En este panorama, los atacantes también encuentran puntos de entrada en nuevas herramientas de IA que las empresas implementan internamente para aumentar la eficiencia. Luttwak indica que estas integraciones pueden conducir a ataques de cadena de suministro. Al comprometer un servicio de terceros con amplio acceso a la infraestructura de una empresa, los atacantes pueden penetrar más profundamente en los sistemas corporativos.

Casos Reales de Ataques con IA

  • Drift: El mes pasado, esta startup de chatbots de IA para ventas y marketing fue vulnerada, exponiendo datos de Salesforce de cientos de clientes empresariales como Cloudflare, Palo Alto Networks y Google. Los atacantes accedieron a tokens y los usaron para impersonar el chatbot.
  • s1ingularity: En agosto, un ataque en Nx, un sistema de construcción popular para desarrolladores de JavaScript, liberó malware que detectó herramientas de IA como Claude y Gemini, secuestrándolas para escanear el sistema en busca de datos valiosos. Comprometió miles de tokens y claves de desarrolladores.

Respuesta de Wiz: Innovación en Seguridad con IA

Aunque la adopción de herramientas de IA en empresas es mínima —Luttwak estima alrededor del 1%—, Wiz ya observa ataques semanales que impactan a miles de clientes empresariales. “Y si observas el flujo del ataque, la IA estaba integrada en cada paso”, destacó.

Wiz ha expandido sus capacidades para mantenerse al día con la velocidad de los ataques relacionados con IA. En septiembre del año pasado, lanzó Wiz Code, que se centra en asegurar el ciclo de vida del desarrollo de software. En abril, presentó Wiz Defend, que ofrece protección en tiempo de ejecución.

Consejos para Startups: Seguridad desde el Día Uno

Luttwak enfatiza que las startups deben pensar en seguridad desde el inicio. “Desde el primer día, necesitas pensar en seguridad y cumplimiento”, dijo. “Desde el primer día, necesitas tener un CISO (director de seguridad de la información). Incluso si tienes cinco empleados”.

“Obtener el cumplimiento SOC2 para cinco empleados es mucho más fácil que para 500 empleados”. — Ami Luttwak

También recomendó que las startups de IA consideren arquitecturas que permitan que los datos del cliente permanezcan en su entorno, evitando riesgos de exposición.

Oportunidades en Ciberseguridad con IA

Luttwak señaló que ahora es el momento para que las startups de ciberseguridad entren en el campo. Áreas como protección contra phishing, seguridad de correo electrónico y herramientas de automatización para “vibe security” son terreno fértil para la innovación. “El juego está abierto”, concluyó. “Si cada área de seguridad ahora tiene nuevos ataques, significa que debemos repensar cada parte de la seguridad”.

Comparte este artículo

Otras notas de tu interés:

Economia

Shanghai Futures Exchange diseña futuros de tokens de IA: un mercado en auge

Economia

Anthropic cierra ronda récord de $65 mil millones y se prepara para su salida a bolsa

Negocios

Anthropic lanza Opus 4.8 con Dynamic Workflows: un salto en la IA empresarial

Economia

Trump Refile Demanda por Difamación Contra el Wall Street Journal por Artículo de Epstein

Negocios

Sesame: La Startup de IA Conversacional de los Fundadores de Oculus Lanza su App iOS

Economia

Contrato entre Anthropic y SpaceX: ¿Un arrendamiento de 3 años o solo 180 días?

Espectáculos y Entretenimiento

YouTube lanza nuevas funciones de podcast con IA, velocidad automática y modo escucha para usuarios Premium

Negocios

Recursive Self-Improvement: La Nueva Frontera de la Inteligencia Artificial

Tecnologia

Apple prepara una revolución para Siri: Nueva app y competencia directa con ChatGPT

Economia

Visa invierte en Replit para impulsar los pagos agénticos entre desarrolladores