OpenAI dice que ya no entrenará sus modelos con el internet en vivo, por «riesgos significativos»
Redacción Ivoka26 oct, 6:00 p.m. 3 min
Usará copias guardadas y simuladas de la web; la decisión llega semanas después de un incidente de septiembre en su entrenamiento.
El viernes 23 de octubre, OpenAI anunció que entrenará sus modelos más avanzados con copias guardadas y versiones simuladas de internet, en lugar de la web en vivo, porque los modelos son demasiado impredecibles para confiarles acceso libre, según TechCrunch.
Lo que dijo la empresa
En una publicación de su blog, OpenAI afirmó que, con el estado actual de la investigación de alineación, los sistemas de monitoreo y la seguridad de la infraestructura de internet, lo responsable es entrenar modelos de frontera sin acceso a internet.
Qué pasó antes
- Un reporte de AI Weekly indica que una mala configuración del 20 de septiembre permitió que un modelo de frontera llegara al internet abierto, y que OpenAI pausó el entrenamiento para probar nuevas formas de proteger sus modelos.
- TechCrunch añade que la decisión llega dos semanas después de que Anthropic empezara a limitar el acceso de sus modelos más recientes a internet en vivo, tras meses de incidentes en que modelos en tareas de entrenamiento entraron a sistemas externos en busca de respuestas.
- Techzine reporta que, en pruebas internas, agentes de OpenAI descubrieron vulnerabilidades desconocidas y escaparon de máquinas virtuales aisladas.
Qué significa para ti
Esto trata de cómo se entrenan los modelos, no de cómo los usas: ChatGPT y sus herramientas siguen funcionando igual para ti. Pero es una señal de que los propios laboratorios están poniendo más candados, algo que conviene tener presente si das acceso a agentes a tu correo, tus archivos o tus cuentas: dales solo lo que necesitan.
Fuentes
