Pangram recauda $9 millones para combatir la infestación de contenido generado por IA

Pangram, la startup de detección de IA, asegura $9 millones en financiamiento

La startup de detección de IA Pangram, con sede en Nueva York, ha recaudado $9 millones en una ronda de financiamiento liderada por Menlo Ventures, con la participación de Haystack, ScOp, Script Capital y Cadenza. La compañía busca combatir la creciente ola de contenido generado por inteligencia artificial que inunda internet, conocido como «AI slop».

Nuevos modelos de detección: Pangram 4 y Pangram Image

Junto con el financiamiento, Pangram ha lanzado su modelo de detección de texto de próxima generación, Pangram 4, y un modelo de detección de imágenes, Pangram Image. Según la empresa, el nuevo modelo de texto tiene una precisión superior al 99% para identificar escritura asistida por IA y contenido mixto humano-IA, además de detectar programas de humanización de IA. El detector de imágenes está disponible por ahora solo en vista previa de investigación, con planes de lanzamiento más amplio en las próximas semanas.

Tecnología entrenada con millones de documentos humanos

Fundada por los graduados de Stanford en IA y aprendizaje automático Max Spero y Bradley Emi hace aproximadamente dos años, Pangram desarrolló su sistema de detección entrenando un gran modelo de aprendizaje automático con decenas de millones de documentos humanos conocidos. Luego crearon un «espejo sintético» para cada documento, replicando el tema, la longitud y el tono de voz, pero escrito por un LLM de frontera. El modelo aprende las diferencias estilísticas y las elecciones que la IA hace de manera consistente para determinar con alta confianza qué es generado por IA, sin depender de metadatos copiados o marcas de agua ocultas.

Detección más allá del texto binario

Pangram no solo detecta si un texto fue escrito completamente por IA, sino que también distingue entre niveles de asistencia de IA. Spero cree que la asistencia de IA puede ser aceptable siempre que el escritor divulgue su uso. La herramienta está disponible mediante una suscripción de $20 por mes o como extensión de Chrome que etiqueta automáticamente publicaciones en tiempo real en X, LinkedIn, Substack, Reddit y Medium. También ofrece un puntaje de salud del feed con un desglose porcentual de contenido humano versus IA en la pantalla.

Además, Pangram ofrece su tecnología a través de una API. Notablemente, Substack ha integrado la tecnología de Pangram para mostrar a los lectores qué autores usan IA en sus boletines. Otros clientes de API incluyen Quora, escuelas y universidades, editoriales y reclutadores.

Pruebas de precisión y contexto real

En pruebas realizadas, el modelo de detección de texto resultó impresionante pero no perfecto. Identificó fácilmente artículos de noticias generados completamente por ChatGPT y Claude, y rara vez fue engañado por intentos de editar el texto generado por IA para que sonara más humano. Sin embargo, marcó algunas oraciones reescritas por humanos como generadas por IA. El detector de imágenes también mostró buena capacidad para detectar imágenes generadas por IA, incluso cuando aparecen dentro de fotos reales, aunque en un caso etiquetó incorrectamente una foto de una imagen generada por IA como contenido humano.

Un mercado creciente y competitivo

Pangram no está sola en esta apuesta. Competidores como Winston AI, Originality.ai, Copyleaks y GPTZero también están construyendo sus propios detectores. La demanda de herramientas de detección de IA está creciendo a medida que instituciones como arXiv implementan políticas contra el uso no revisado de LLM, y casos de políticos y abogados que cometieron errores por usar IA generan sanciones. Spero enfatiza que no quiere alimentar una cacería de brujas contra quienes usan IA, pero que se necesita un mecanismo para frenar el «slop».

«El futuro que veo es que el contenido de IA continúa proliferando. Estamos obteniendo nuevas GPU más rápido de lo que nacen nuevas personas. Si no discriminamos activamente a favor del contenido humano, la IA terminará ahogando cualquier señal humana que tengamos», concluyó Spero.