EleutherAI lanza Common Pile v0.1: El gigantesco dataset ético para entrenar IA

Revolución en el entrenamiento de IA con datos éticos

La organización de investigación EleutherAI ha lanzado el Common Pile v0.1, uno de los mayores conjuntos de datos con licencia abierta para entrenamiento de inteligencia artificial. Este proyecto de 8 terabytes representa un hito en el campo de IA ética tras dos años de desarrollo colaborativo.

Representación abstracta de flujos de datos en IA

Flujos de datos que simbolizan el entrenamiento de modelos de IA

Colaboración estratégica y modelos innovadores

Desarrollado con startups como Poolside y Hugging Face junto a instituciones académicas, este dataset ha permitido crear los modelos Comma v0.1-1T y Comma v0.1-2T. Ambos modelos, de 7 mil millones de parámetros, igualan en rendimiento a alternativas entrenadas con material protegido por derechos de autor.

  • Tamaño del dataset: 8 terabytes
  • Modelos generados: Comma v0.1-1T y v0.1-2T
  • Parámetros: 7 mil millones por modelo

Respuesta al debate legal sobre copyright

Stella Biderman, directora ejecutiva de EleutherAI, señaló que las demandas contra empresas como OpenAI han «disminuido drásticamente la transparencia» en la industria. El Common Pile v0.1, disponible en Hugging Face y GitHub, se construyó consultando expertos legales usando fuentes como:

  • 300,000 libros de dominio público de la Biblioteca del Congreso
  • Archivos de Internet Archive
  • Transcripciones de audio con Whisper de OpenAI

Diseño modular de arquitectura de datos

Estructura de datos para entrenamiento de IA

Rectificando el pasado, construyendo futuro

Este lanzamiento corrige el anterior «The Pile» de EleutherAI que contenía material con copyright. La organización se compromete a lanzar datasets abiertos con mayor frecuencia, demostrando que «la idea de que el texto sin licencia impulsa el rendimiento es injustificada» según Biderman.

Comparte este artículo

Otras notas de tu interés:

Politica Internacional

Sanae Takaichi esquiva el Santuario Yasukuni en el aniversario de la rendición de Japón

Politica Internacional

Apple alerta a usuarios en 110 países por posible ataque de spyware

Politica Internacional

Líder británico pide reflexión tras la muerte de un exprofesor de Cambridge acusado de plagio

Sociedad y Cultura

Demanda contra xAI: Jane Doe y las imágenes explícitas creadas por su padrastro con Grok

Tecnologia

Anthropic revela cómo funcionará la marca de agua SynthID-Text en Claude

Economia

Al Capone, Miami Beach y Palm Island: el lote histórico se vende por $21 millones

Economia

SpaceX completa la adquisición de Cursor y promete acceso a la mayor flota de GPUs del mundo

Economia

Venden por $21 millones el terreno de Al Capone en Palm Island, Miami Beach

Economia

Energía limpia en EE. UU.: el empuje de Biden frente a los recortes de Trump

Sociedad y Cultura

Serie de asesinatos en Michigan deja 6 muertos; identifican a Chad Hickman como persona de interés