Renunció un especialista en seguridad de OpenAI y pidió tratar a la IA como a la energía nuclear
Un especialista de OpenAI pidió el mismo respeto de la energía nuclear para la IA.
David Robinson dejó su cargo y cuestionó el ritmo con el que se desarrollan y lanzan los sistemas de inteligencia artificial.
Un nuevo especialista en seguridad dejó OpenAI y planteó públicamente sus preocupaciones sobre la forma en que la compañía y otros laboratorios de inteligencia artificial evalúan los riesgos de sus modelos más avanzados.
Se trata de David Robinson, quien hasta hace pocos días estuvo a cargo de la elaboración de los informes de seguridad de OpenAI y supervisó documentación correspondiente a 12 modelos de frontera. También participó en el desarrollo del Marco de Preparación de la empresa, utilizado para identificar y evaluar los riesgos asociados a sus sistemas.
Tras su salida, Robinson publicó un artículo en The Atlantic en el que sostuvo que los laboratorios de inteligencia artificial deberían adoptar protocolos de seguridad similares a los utilizados en centrales nucleares y otras industrias de alto riesgo.
La advertencia sobre el desarrollo de la IA
Según Robinson, la velocidad con la que los laboratorios desarrollan y lanzan nuevos modelos plantea un desafío cada vez mayor. El especialista consideró que el enfoque basado principalmente en el ensayo y error puede resultar insuficiente a medida que aumentan las capacidades de estos sistemas.
En ese sentido, planteó que las empresas deberían incorporar mayores niveles de planificación, controles y redundancia antes de poner en funcionamiento modelos cada vez más avanzados.
La comparación con la industria nuclear apunta precisamente a ese aspecto: establecer procesos de seguridad rigurosos y múltiples mecanismos de control para reducir la posibilidad de que un error termine provocando consecuencias graves.
Una nueva salida dentro del debate por la seguridad
La renuncia de Robinson se suma a las advertencias realizadas por otros especialistas vinculados al sector, que también cuestionaron distintos aspectos de las estrategias de seguridad implementadas por los grandes laboratorios de inteligencia artificial.
El exresponsable de OpenAI reconoció, sin embargo, que todavía queda por definir cómo debería aplicarse concretamente este cambio de enfoque. Su planteo apunta a que el crecimiento de las capacidades de la inteligencia artificial debería estar acompañado por sistemas de seguridad acordes con los riesgos potenciales de la tecnología.