Cuatro líderes estadounidenses en inteligencia artificial (IA) anunciaron el miércoles la formación de un grupo dedicado a abordar la seguridad que pueden presentar las versiones de vanguardia de la tecnología en la industria.
Anthropic, Google, Microsoft y el fabricante de la aplicación ChatGPT, OpenAI, dijeron que el recién creado Frontier Model Forum se basará en la experiencia de sus miembros para minimizar los riesgos de IA y respaldar los estándares de la industria.
Las empresas se comprometieron a compartir las mejores prácticas entre sí, así como con legisladores e investigadores.
Los modelos «Frontier» se refieren a plataformas incipientes de aprendizaje automático a gran escala que llevan la IA a nuevos niveles de sofisticación y también cuentan con capacidades que podrían resultar peligrosas para los humanos.
«Las empresas que crean tecnología de inteligencia artificial tienen la responsabilidad de garantizar que su uso sea seguro y permanezca bajo control humano», dijo el presidente de Microsoft, Brad Smith, en un comunicado.
«Esta iniciativa es un paso vital para unir al sector tecnológico en el avance de la IA de manera responsable. También abordar los desafíos para que brinde beneficios a toda la humanidad», resaltó.
Lea también: EssilorLuxottica se lanza al mercado de las gafas con corrección auditiva
Seguridad de la IA
El presidente estadounidense, Joe Biden, evocó los «enormes» riesgos y esperanzas generadas por la IA. Fue en una reunión en la Casa Blanca la semana pasada con representantes de las gigantes tecnológicas. Se comprometieron a tomar precauciones para todo tipo de protección, desde ciberataques hasta fraudes a medida que crece el sector.
Junto a los principales representantes de Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI, Biden dijo que las empresas se comprometieron a «guiar la innovación responsable». A medida que la IA se extiende cada vez más en la vida personal y empresarial.
Antes de la reunión, los siete gigantes de la IA se comprometieron con una serie de salvaguardas autorreguladas. Según la Casa Blanca, «subrayarían tres principios que deben ser fundamentales para el futuro de la IA: seguridad, protección y confianza».
En su compromiso, las empresas acordaron desarrollar «mecanismos técnicos robustos». Tales como sistemas de marcas de agua, para garantizar que los usuarios sepan cuándo el contenido es de IA y no de humanos.
(26/07/2023)
