En internet circula una nueva generación de modelos de inteligencia artificial modificados para reducir o eliminar sus respuestas de rechazo. A menudo se los denomina “abliterators”: versiones alteradas de modelos existentes que buscan que el sistema responda a solicitudes que normalmente bloquearía.

La promesa resulta atractiva para algunos usuarios. Un modelo menos restrictivo podría ayudar a equipos de seguridad a analizar software malicioso, estudiar vulnerabilidades o ensayar escenarios de ataque en un entorno controlado. En manos de profesionales autorizados, estas capacidades pueden contribuir a detectar fallos antes de que los exploten terceros.

Pero la misma falta de barreras también facilita usos dañinos. Un sistema que no distingue entre investigación legítima y una petición peligrosa puede ofrecer apoyo para intrusiones, fraude o la fabricación de armas. El problema no es solo que el modelo pueda producir información riesgosa, sino que reduce las fricciones para obtenerla y puede presentarla con una seguridad que no corresponde a su fiabilidad.

Además, eliminar los rechazos no convierte a un modelo en una fuente más precisa. Puede inventar datos, omitir advertencias o proporcionar respuestas incompletas. En contextos técnicos, esa combinación de confianza y error puede causar daños incluso cuando el usuario no tiene intención maliciosa.

Para las organizaciones, la respuesta no debería ser confiar ciegamente en modelos sin restricciones ni descartarlos por completo. Conviene establecer límites claros: utilizar herramientas aprobadas, restringir el acceso a entornos de prueba, registrar las interacciones relevantes y someter los resultados a revisión humana. También es importante separar la asistencia para la defensa de cualquier actividad contra sistemas o personas sin autorización.

Los desarrolladores y las plataformas, por su parte, afrontan el reto de equilibrar utilidad y seguridad. Los controles deben ser proporcionales al riesgo y evaluarse frente a intentos de elusión, sin impedir innecesariamente el trabajo legítimo de quienes protegen sistemas. La transparencia sobre las capacidades y limitaciones de estos modelos también ayuda a que usuarios y organizaciones tomen decisiones informadas.

Los modelos que “nunca dicen que no” no son, por ese solo hecho, mejores herramientas. Pueden ampliar las posibilidades de investigación defensiva, pero también reducir obstáculos para actividades peligrosas. La cuestión central es quién los utiliza, con qué autorización y bajo qué controles. En una tecnología capaz de servir tanto para proteger como para causar daño, la responsabilidad no puede quedar fuera del diseño ni del uso cotidiano.
from Wired en Español https://ift.tt/zXMFlJK
via IFTTT IA