OpenAI ha anunciado una colaboración con Cathedral Systems para que especialistas de ambas organizaciones pongan a prueba la infraestructura de inteligencia artificial de la compañía. El objetivo es detectar posibles vulnerabilidades, evaluar las defensas existentes y contribuir a fortalecerlas.

La iniciativa incorpora una perspectiva externa a las labores de seguridad de OpenAI. La empresa espera que esta colaboración complemente sus investigaciones internas en un momento en que las amenazas a los sistemas de IA evolucionan con rapidez.

«OpenAI está dando un ejemplo importante al colaborar con firmas de seguridad externas y utilizar sus propios modelos para probar y reforzar continuamente sus defensas», afirmó Gavin Kliger, director ejecutivo de Cathedral Systems.

## Más incentivos para detectar vulnerabilidades críticas

OpenAI también planea mejorar su programa de recompensas por errores para animar a más investigadores independientes a participar. Aunque no detalló los importes, señaló que los pagos por hallazgos críticos podrían multiplicarse por cuatro.

El programa ya contempla áreas como la seguridad del software, la privacidad de los modelos, la detección y respuesta ante amenazas, la integración de herramientas de seguridad y la protección de agentes de IA.

La colaboración se suma a otras iniciativas de la compañía. En una sprint anterior, OpenAI pidió a una parte de sus desarrolladores que dedicara tiempo a encontrar y corregir debilidades de seguridad, con ayuda de Codex para acelerar las investigaciones y las reparaciones.

«Estamos ampliando ese trabajo porque las defensas tradicionales de ciberseguridad ya no son suficientes», señaló la empresa.

## Un enfoque de seguridad compartido

La iniciativa recuerda a Project Glasswing, de Anthropic: ambas propuestas plantean aprovechar modelos de IA avanzados para reforzar la seguridad de los sistemas propios y contribuir a la de otros. El anuncio de OpenAI destaca, además, la importancia de colaborar con especialistas externos para anticiparse a riesgos emergentes.

«Mantener abierta la ventana de ventaja de los defensores requerirá medidas en toda la industria, y ese trabajo debe empezar ahora», añadió OpenAI.

La colaboración con Cathedral Systems y el aumento previsto de las recompensas reflejan una apuesta por combinar investigación interna, experiencia independiente y participación de la comunidad de seguridad.

from Latest from TechRadar https://ift.tt/UDYObnN
via IFTTT IA