OpenAI comunicó la decisión este viernes a Axios, en lo que podría ser la primera vez que un laboratorio líder ralentiza su propio desarrollo por preocupaciones de ciberseguridad.
(RT en Español)-La compañía estadounidense OpenAI comunicó este viernes al medio Axios que no puede descartar que su próximo modelo, denominado Astra, posea “capacidades cibernéticas críticas”. Esta evaluación interna ha llevado a la empresa a expandir los protocolos de seguridad y a detener las actividades de desarrollo que no cumplan con los requisitos más estrictos establecidos en su marco de preparación, publicado originalmente en 2023. La firma indicó que, antes de cualquier lanzamiento, escalará las pruebas y los controles, lo que podría retrasar la fecha de disponibilidad del modelo.
Según la información proporcionada, Astra no estuvo involucrado en los recientes incidentes en los que otro modelo de OpenAI vulneró de forma autónoma los sistemas de la plataforma Hugging Face, una comunidad especializada en aprendizaje automático, precisó la compañía, y la decisión de ralentizar el desarrollo responde a la aplicación de su propio reglamento interno de seguridad.
Un funcionario de la Casa Blanca afirmó que “OpenAI informó voluntariamente a la Administración sobre sus planes de retrasar el lanzamiento”. Esto supone un precedente, ya que podría ser la primera vez que un laboratorio líder en inteligencia artificial frena el avance de uno de sus modelos debido a preocupaciones específicas sobre ciberseguridad.
Por su parte, el laboratorio competidor Anthropic había establecido anteriormente el compromiso de pausar el entrenamiento de modelos potentes si las capacidades superaban su control, aunque revocó esa medida en una actualización de su política en febrero de este año. El propio marco de OpenAI advierte que, si un desarrollador se detiene para implementar medidas de seguridad mientras otros avanzan sin mitigaciones sólidas, el resultado podría ser un mundo menos seguro. Este anuncio se produce en un contexto donde la Administración Trump busca establecer un proceso para evaluar los modelos de IA antes de su lanzamiento.
Por su parte, durante la conferencia Black Hat en Las Vegas, miembros del personal técnico de OpenAI ya habían mencionado que estaban reduciendo el ritmo de las pruebas mientras mejoraban sus prácticas. La empresa detalló que ha comenzado a implementar controles más rigurosos, incluidos entornos de prueba aislados y monitoreo universal para las aplicaciones agénticas de Astra. Michael Dalton, integrante del equipo técnico, señaló durante una presentación que han comenzado “conscientemente a ralentizar la investigación para mejorar la seguridad”, en un escenario donde las capacidades de los modelos avanzan más rápido que la formalización de las regulaciones.
