Counterfit: herramienta de código abierto para auditar la IA

counterfit

Cada vez hay más desarrollos de inteligencia artificial, cada vez se aumenta la complejidad de esta IA, y también el campo de aplicación. Ya está siendo usada en el sector sanitario, administraciones públicas, investigación, servicios, etc. Pero estos algoritmos no son infalibles en cuanto a seguridad, también hay posibles amenazas para ellos. De hecho, conforme la IA avanza, cada vez se están detectando más amenazas. Por eso la importancia de herramientas como counterfit.

Como son sistemas bastante críticos, se necesitan sistemas de inteligencia artificial seguros. Y para ello hay que desarrollar una serie de estándares para las auditorías y herramientas para poder auditarlos de forma más sencilla. Un ejemplo esta herramienta de Microsoft que he citado en el párrafo anterior.

Microsoft ha desarrollado esta herramienta que facilitará mucho el trabajo, y lo ha hecho bajo licencia de código abierto (licencia MIT) y a través de su plataforma GitHub, para que esté accesible para todos aquellos que deseen usarla, y también para poder participar en su desarrollo. counterfit permitirá a los desarrolladores probar la seguridad de los sistemas de inteligencia artificial en una fase temprana de desarrollo, y así asegurarse de que no presenta agujeros críticos.

Si te interesa conocer sobre ella, puedes acceder a su repositorio en GitHub desde este enlace. Allí encontrarás el código fuente, información, o la podrás descargar y probar en múltiples plataformas. Además, al estar escrita en Python, la puedes usar también en Linux sin problemas.

La herramienta nació en el seno de Microsoft, por la propia necesidad que tenían ellos mismos de evaluar sus sistemas de inteligencia artificial y aprendizaje automático en búsqueda de vulnerabilidades. En un inicio estaba dirigido para probar sistemas, pero ahora también se puede usar durante la etapa de desarrollo de la IA.

Como podrás ver en el sitio, necesitarás instalar Anaconda Python en local para poder usar el script Python. Otra opción es usarla a través de Azure Shell desde un navegador web.

from Linux Adictos https://ift.tt/3eYaZId
via IFTTT

Android stalkerware threatens victims further and exposes snoopers themselves

ESET research reveals that common Android stalkerware apps are riddled with vulnerabilities that further jeopardize victims and expose the privacy and security of the snoopers themselves

The post Android stalkerware threatens victims further and exposes snoopers themselves appeared first on WeLiveSecurity

from WeLiveSecurity https://ift.tt/3ompusd
via IFTTT

Todo lo que esperamos del Google I/O

Todo lo que esperamos del Google I/O

Queda sólo un día para que dé comienzo el evento más importante relacionado con el sistema operativo Android, el Google I/O 2021. Como acostumbra a ocurrir, la empresa se cita con los desarrolladores para presentarles las novedades más importantes que llegarán a la plataforma, tanto al propio sistema como a sus aplicaciones. Analizamos todo lo que Google puede presentar.

El martes 18 de mayo lleva marcado a fuego en nuestras agendas desde que se desveló el acontecimiento el anterior 7 de abril: Google I/O regresa tras una ausencia forzosa en 2020. El evento se realizará de manera online, lo que tiene sus ventajas: cualquiera podrá asistir a las charlas; basta con registrarse en el Google I/O y reservar asistencia a aquellas que resulten de interés. Sin olvidarnos de la keynote de mañana martes, acontecimiento sonado en el que veremos una pila de novedades presentadas por Sundar Pichai y los suyos.


Continue reading

Mostly Sunny today!

En Veracruz hoy la condición actual es Fair y una temperatura de 25C.

La máxima temperatura será de 31C y la mínima de 26C.
Durante el día la condición se pronostica como Mostly Sunny

Sunrise May 17, 2021 at 06:49AM
Sunset May 17, 2021 at 07:52PM

Viento con dirección Southeast y velocidad de 0 Km/h

With a high of 87F and a low of 78F.
via IFTTT