Together, una startup de IA de código abierto, anunció hoy que ha recaudado 20 millones de dólares en fondos iniciales para respaldar su misión de crear alternativas descentralizadas a los sistemas de IA cerrados y democratizar la IA para todos.
La compañía dice que su objetivo es establecer el código abierto como la forma predeterminada de incorporar IA y ayudar a crear modelos abiertos que superen a los modelos cerrados. Con este fin, la empresa ya ha colaborado con proveedores de infraestructura descentralizada, grupos de código abierto y laboratorios de investigación académicos y corporativos. Together cree que ha reunido a un impresionante equipo de investigadores, ingenieros y profesionales de la IA.“Nuestra misión es potenciar la innovación y la creatividad al proporcionar modelos de IA generativos de código abierto líderes y una innovadora plataforma en la nube que hace que la IA sea accesible para cualquier persona, en cualquier lugar”, dijo a VentureBeat Jamie de Guerre, vicepresidente sénior fundador de productos en Together.
Together ha lanzado varios proyectos de IA generativa , incluidos GPT-JT, OpenChatKit y RedPajama , que han recibido el apoyo de cientos de miles de desarrolladores de IA. La compañía declaró que utilizará la nueva financiación inicial de $ 20 millones para expandir el equipo, la investigación, el producto y la infraestructura.
“Los modelos de base son una nueva tecnología de propósito general ampliamente aplicable a industrias y aplicaciones. Creemos que un ecosistema de código abierto para estos modelos realmente desbloqueará su potencial y creará un gran valor”, dijo de Guerre. “Además, a medida que las empresas definen sus estrategias generativas de IA, buscan privacidad, transparencia, personalización y facilidad de implementación. Los modelos de código abierto entrenados previamente en conjuntos de datos abiertos permiten a las organizaciones inspeccionar, comprender y personalizar completamente los modelos para sus aplicaciones”.
Código abierto para la transparencia de datos, propuesta de Together startup
La compañía dijo que su prioridad es sentar las bases para la IA de código abierto al proporcionar conjuntos de datos, modelos e investigaciones. El proyecto RedPajama es una empresa inicial prometedora, pero representa solo el comienzo de los esfuerzos de la empresa. El segundo objetivo de Together es hacer que los recursos computacionales para entrenar, ajustar y operar modelos grandes sean más accesibles. Significa proporcionar esto con una innovadora plataforma en la nube específica de IA construida sobre una red informática descentralizada .
De Guerre señaló que los modelos cerrados también presentan riesgos de responsabilidad y desafíos, ya que el cliente no tiene visibilidad de cómo funciona el modelo o en qué se entrenó. Es por eso que Together hace que los conjuntos de datos y los modelos sean completamente de código abierto para contrarrestar esta tendencia y permitir una infraestructura informática más accesible para la capacitación o el uso de modelos grandes.
“Con modelos cerrados, los investigadores no pueden acceder a los datos de entrenamiento, no pueden descargar los modelos y personalizarlos, y no pueden aprender del proceso de entrenamiento para futuras investigaciones”, dijo de Guerre. “Los modelos y conjuntos de datos de IA generativa de código abierto permiten a la comunidad abierta realizar investigaciones más avanzadas y construir sobre estos modelos creando otros nuevos que impulsen la innovación en nuevas direcciones.
“Ya hemos visto esto de maneras increíbles. Desde el lanzamiento de RedPajama, en las últimas semanas, hemos visto nuevos… modelos disponibles en código abierto, implementaciones para ejecutar modelos básicos en una computadora portátil o teléfono móvil, y nuevos modelos ajustados para aplicaciones específicas”.
Together startup con su código abierto brinda nueva tecnología en la nube
La empresa tiene como objetivo utilizar los fondos recién adquiridos para mejorar su plataforma en la nube especializada, que está diseñada para escalar de manera eficiente el entrenamiento y la inferencia para modelos grandes a través de la optimización distribuida. Esto hará posible personalizar y conectar rápidamente los modelos de base con las tareas de producción.
“En los próximos meses, planeamos abrir el acceso a esta plataforma; lo que permitirá una rápida personalización y el acoplamiento de los modelos básicos con las tareas de producción de forma confidencial y segura”, dijo de Guerre.
“Esto habilitará aún más a la comunidad abierta al hacer que los recursos informáticos necesarios para entrenar y operar estos grandes modelos sean más eficientes y accesibles”.
También puedes leer: Lo que las empresas deben saber sobre la adopción de IA generativa
Abordar los cuellos de botella del código abierto para fomentar el progreso de la IA
Según de Guerre, Together startup promueve los avances de la IA de código abierto de dos maneras. En primer lugar, se asocia con grupos de código abierto y laboratorios de investigación corporativos para publicar investigaciones, conjuntos de datos y modelos abiertos.
En segundo lugar, la empresa se está asociando con proveedores de infraestructura descentralizada para brindar un mejor acceso a la informática para la capacitación, el ajuste y la ejecución de modelos grandes.
Señaló que la creación de redes es uno de los cuellos de botella clave para la formación de grandes modelos de base.
“No solo necesita una gran cantidad de GPU potentes; sino que también necesita que esas GPU estén conectadas mediante una red increíblemente rápida, generalmente en una sola ubicación física. Desafortunadamente, este tipo de centro de datos solo está disponible para un puñado de organizaciones”, dijo. “Nuestra investigación permite una reducción de [más de] 200 veces en el tráfico de la red durante el entrenamiento o el ajuste fino del modelo. Esto significa que ahora puede aprovechar las GPU en múltiples redes dispares para participar en la capacitación o el ajuste de modelos grandes sin perder la calidad del modelo producido”.
Agregó que esto permite una infraestructura más escalable y brinda al cliente varias opciones informáticas a diferentes niveles de rendimiento y costo. Esto hace que la plataforma sea accesible para más personas.
Además, la empresa ha desarrollado tecnologías que mejoran el rendimiento de la inferencia en un orden de magnitud.
Together startup la empresa de código abierto afirma que no almacena ni utiliza datos de clientes o de formación de forma predeterminada. Los clientes pueden participar y compartir sus datos con Together para modelos de entrenamiento.
“Estamos invirtiendo mucho en la construcción de los mejores modelos de IA generativa de código abierto y una plataforma en la nube específica para IA. Continuaremos lanzando modelos de código abierto y otros proyectos para respaldar este objetivo”, dijo de Guerre. “Creemos que la IA será omnipresente y tendrá un gran impacto en nuestra cultura y sociedad. Queremos que este futuro se base en sistemas abiertos y participativos para que todos, como sociedad, podamos dar forma a este futuro”.
La ronda de financiación inicial de Together fue dirigida por Lux Capital y cuenta con el apoyo de varios fondos de riesgo; inversores ángeles y empresarios destacados, incluido el cofundador de PayPal, Scott Banister, el cofundador de Cloudera, Jeff Hammerbacher y Lip-Bu Tan, el fundador de Cadence Systems.
