Método ArtPrompt

Los avances en el desarrollo de inteligencias artificiales cada vez es mayor y requiere de más capas de seguridad para evitar que personas mal intencionadas abusen de estas herramientas que se han convertido en armas dé doble filo.

Y es que el desarrollo de los LLMs que se utilizan en una amplia gama de aplicaciones, la seguridad ya no es algo opcional, ya que en muchas ocaciones hemos visto de lo que es capas su mal uso.

Aun con todas esas técnicas implementadas, siguen surgiendo problemas que se encuentran dentro de los datos de entrenamiento, lo cual a primera vista no resulta nada fuera de lo común o peligroso al no considerar otras interpretaciones posibles de los datos.

La razón de mencionar esto, es que hace poco se dio a conocer información sobre un nuevo ataque denominado «ArtPrompt», el cual se aprovecha de las limitaciones de las IA’s en reconocer imagenes ASCII para eludir las medidas de seguridad y desencadenar comportamientos no deseados en los modelos.

Este ataque fue descubierto por investigadores de las universidades de Washington, Illinois y Chicago, y mencionan que «ArtPrompt» es un método para eludir las restricciones en chatbots de inteligencia artificial tales como GPT-3.5, GPT-4 (OpenAI), Gemini (Google), Claude (Anthropic) y Llama2 (Meta).

Este método de ataque se ejecuta en dos pasos y como tal se aprovecha del reconocimiento exitoso de texto formateado en ASCII. El primer paso consiste en identifican las palabras del prompt que podrían desencadenar rechazos para evadir los filtros que detectan preguntas peligrosas y en el segundo se encubren esas palabras utilizando arte ASCII para crear un prompt camuflado logrando así inducir respuestas perjudiciales en el modelo.

La efectividad de ArtPrompt se evaluó en cinco chatbots, demostrando su capacidad para eludir las defensas existentes y superar a otros tipos de ataques de jailbreak. Para evaluar la capacidad de los chatbots en reconocer consultas en forma de arte ASCII, se propone «Vision-in-Text Challenge (VITC)» como un benchmark.

Este desafío busca poner a prueba la capacidad de los modelos para interpretar y responder a consultas que utilizan arte ASCII, mostrando que los LLMs tienen dificultades para comprender consultas que representan una sola letra o número con arte ASCII. La precisión de los modelos disminuye significativamente a medida que las consultas contienen más caracteres, lo que pone de manifiesto una vulnerabilidad en la capacidad de los LLMs para procesar información visual codificada de esta forma. Además, se revisan otros ataques y defensas contra los jailbreaks en LLMs.

Se menciona que ArtPrompt es notablemente más efectivo que otros métodos conocidos ya que logró la más alta calidad de reconocimiento de gráficos ASCII en modelos como Gemini, GPT-4 y GPT-3.5, con tasas de omisión exitosa del filtro del 100%, 98% y 92% respectivamente en las pruebas. En cuanto a la tasa de éxito del ataque, se registró un 76%, 32% y 76%, y la peligrosidad de las respuestas recibidas se evaluó en 4,42, 3,38 y 4,56 puntos en una escala de cinco, respectivamente.

ArtPrompt destaca de otros ataques de jailbreak para construir las instrucciones dañinas, ya que requieren de un gran número de iteraciones, mientras que ArtPrompt logra el ASR más alto entre
todos los ataques de jailbreak con una sola iteración. La razón es que ArtPrompt puede construir eficientemente el conjunto de indicaciones encubiertas, y enviarlos al modelo en paralelo.

Además, los investigadores demostraron que los métodos comunes de elusión de filtros actualmente en uso (Paraphrase y Retokenization) no son efectivos para bloquear este tipo de ataque llamado «ArtPrompt». Curiosamente, el uso del método de Retokenización incluso aumentó la cantidad de solicitudes procesadas con éxito, lo que resalta la necesidad de desarrollar nuevas estrategias para enfrentar este tipo de amenazas en la interacción con chatbots.

ArtPrompt destaca por su capacidad para eludir las defensas existentes y los investigadores mencionan que seguirá siendo eficaz para atacar modelos de lenguaje multimodal, mientras los modelos continuen tomando imágenes como entradas, confundiendo al modelo y permitiendo que ArtPrompt induzca comportamientos inseguros.

Finalmente si estás interesado en poder conocer más al respecto, puedes consultar los detalles en el siguiente enlace.

from Linux Adictos https://ift.tt/qZE0gG5
via IFTTT

Si tienes un proyecto y quieres poner en marcha tu web, no solo vas a necesitar un buen diseño que atraiga a tus clientes potenciales. Esa es la base, pero el siguiente paso es contar con una adecuada consultoría SEO. Y casi tan importante o más que todo eso es el hosting, de hecho, es un factor básico para que cualquier sitio web funcione.

Sin un hosting o alojamiento, es imposible que tu web pueda aparecer en internet. Se trata de un servicio de almacenamiento responsable de que el contenido de cualquier blog o web pueda ser visible en internet. Pero, para alojar tu web podrás elegir entre varias opciones. Una de ellas y la que más éxito está teniendo son los sevidores vps o Virtual Private Server.

Otras opciones son el hosting WordPress, el hosting compartido, el hosting en la nube, el alojamiento gratuito o el revendedor o reseller. Hay diferentes modelos de contratación y servicios en función del tipo de sitio web y de las necesidades de cada proyecto. No es lo mismo un blog que una tienda virtual, cada uno de estos sitios requerirá un hosting concreto.

Tipos de alojamiento más habituales

Dentro de la amplia variedad de alojamientos, casi todo el mundo diría que para empezar, lo más recomendable sería utilizar a un hosting barato. Sin embargo, esto no siempre es lo más aconsejable. Una tienda online, por ejemplo, funcionaría mucho mejor con un servidor vps. Un blog, podría funcionar perfectamente con un hosting WordPress. Veamos las diferencias.

VPS o Hosting Privado Virtual

Los servidores VPS ofrecen un tipo de alojamiento web privado, es decir, una fracción entera del servidor físico estará dedicado a tu web. Esto significa que tu proyecto contará con su propio sistema operativo y no compartirá recursos con otros sitios web. Esta exclusividad mejora mucho el rendimiento y, por tanto, la capacidad de retener a los usuarios en tu web.

Al no compartir con otras webs ni la memoria RAM, ni el procesador, ni el ancho de banda, la capacidad de transferencia de datos se acelera. Y, si bien no es un hosting dedicado, sí que supone una opción más económica que este último y mejora la eficiencia de los alojamientos compartidos.

Servidor Dedicado

Si tu web requiere el uso exclusivo de todos los recursos de un servidor, entonces tu mejor opción será un servidor dedicado. Con este tipo de alojamiento podrás tener acceso completo al hardware y al software del servidor. Esto implica poder adaptarlo a las necesidades específicas de tu sitio web. Una de sus mayores ventajas es que su rendimiento es insuperable.

Otra ventaja, además del rendimiento, es la optimización del funcionamiento de tu web. También conseguirás mayor velocidad, flexibilidad y acceso. Además, obtendrás mayor seguridad al poder contar con mayores recursos. El único inconveniente de este tipo de alojamiento es su precio, pero está justificado por ser el que más ventajas ofrece.

Hosting Compartido

Este tipo de hosting es más económico, puesto que se comparte el alojamiento. Esto quiere decir que varios sitios webs, además del tuyo, utilizarán y compartirán los recursos del servidor donde están alojados. Tanto la RAM, como la CPU, como el procesador, la dirección IP o el ancho de banda son compartidos.

Precisamente el hecho de que se compartan recursos puede suponer una gran desventaja puesto que la velocidad de carga, de procesamiento y de almacenamiento podrían resentirse. Por eso, cuando se elige este tipo de hosting, hay que escoger una empresa con experiencia que garantice que este no va a suceder.

Hosting en la nube

Este tipo de hosting es una buena opción, puesto que al distribuir los sitios webs en diferentes servidores interconectados en una nube maximiza su rendimiento. Al existir diferentes servidores, no solo se garantiza la eficacia, sino que también se prevén posibles fallos y caídas de uno de ellos. Si ocurriera, otro de los servidores en la nube asumiría sus funciones.

Ahora bien, este tipo de alojamiento también puede ser compartido, VPS o dedicado. Ni que decir tiene que su principal ventaja es la eficiencia. Su segunda ventaja más destacable es la capacidad para adaptarse a las necesidades de cada proyecto en tiempo real. Por último, se trata de un alojamiento mucho más seguro al contar con varios servidores.

Cómo elegir un buen alojamiento

Para poner en marcha tu web, elegir un buen alojamiento es crucial. Pero, ¿cómo elegir un buen hosting? Lo primero que tienes que tener en cuenta es elegir un proveedor que ofrezca una garantía de como mínimo 30 días. Otra condición es disponer de certificado SSL gratis. Comprueba también que sus servidores estén alojados en España.

En este sentido, que los servidores estén en territorio español te garantiza una mejor asistencia, así que exige soporte técnico 24×7. Otro factor importante es que te incluya la migración gratuita en caso de que la necesites. Comprueba también que los discos sean NVMe, y que puedas elegir qué versión de PHP podrás utilizar.

Por último, pero no menos importante, el servicio debe incluir copias de seguridad y sistemas de seguridad web fiables. Dentro de este servicio es imprescindible que cuente con filtros de spam avanzado. Un alojamiento que no te ofrezca todo lo descrito anteriormente no es buena señal.

from Linux Adictos https://ift.tt/de1KWb5
via IFTTT