OpenAI trabaja en una solución para detectar texto generado por ChatGPT

ChatGPT

ChatGPT es un prototipo de chatbot de inteligencia artificial

Se dio a conocer la noticia de que OpenAI está desarrollando un software que puede detectar si su modelo ChatGPT generó texto, esto poco después de que los funcionarios de educación de la ciudad de Nueva York anunciaran que bloquearían el acceso de los estudiantes a la herramienta en las escuelas públicas.

Y es que han dado a conocer diversos informes de qué estudiantes que usan IA para hacer sus tareas, han hecho que los maestros piensen en cómo afecta la educación.

Algunos han expresado su preocupación acerca de cómo los modelos de lenguaje pueden permitir que los estudiantes hagan trampa.

Ante ello OpenAI anuncio que está trabajando para desarrollar «mitigaciones» que ayudarán a las personas a detectar el texto generado automáticamente por ChatGPT.

«Hemos hecho que ChatGPT esté disponible como una vista previa de investigaciónaprender del uso en el mundo real, que creemos que es una parte esencial del desarrollo y la implementación de sistemas de IA capaces y seguros. Estamos constantemente incorporando comentarios y lecciones aprendidas”, dijo un portavoz de la compañía.

Según testimonios de profesores universitarios, los estudiantes confían a ChatGPT para resolver sus tareas, especialmente en los ensayos.

“La academia no lo vio venir. Así que nos tomó por sorpresa”, dice Darren Hudson Hick, profesor asistente de filosofía en la Universidad de Furman.

«Lo informé en Facebook, y mis amigos [maestros] dijeron: ‘¡sí! Yo también atrapé uno’», agregó. A principios de este mes, según los informes, Hick le pidió a su clase que escribiera un ensayo de 500 palabras sobre el filósofo escocés del siglo XVIII David Hume y la paradoja del horror, que examina cómo las personas pueden obtener placer de algo que temen, para una prueba en casa. Pero según el profesor de filosofía, uno de los ensayos que le llegó tenía algunas características que «marcaban» el uso de la IA en la respuesta «rudimentaria» del estudiante. Hick explica que esto puede ser detectado por un ojo entrenado.

Ser capaz de distinguir la escritura a mano producida por un humano o una máquina cambiará la forma en que se pueden usar en la academia. Las escuelas podrían hacer cumplir de manera más efectiva la prohibición de prueba generada por IA,

Sí, los modelos de lenguaje generativo pueden ser buenos, pero no saben de lo que están hablando.

Tan impresionante como suena la escritura generada por IA en los titulares con conferencias universitarias y escuelas que prohíben los artículos escritos a máquina, aquí hay un recordatorio de que carecen de comprensión de escritura humana real.

Y es que OpenAI ha estado impresionando a Internet con sus esfuerzos para replicar la inteligencia humana y las habilidades artísticas desde 2015. Pero en noviembre pasado, la compañía finalmente se volvió mega viral con el lanzamiento del generador de texto AI ChatGPT. Los usuarios de la herramienta beta publicaron ejemplos de respuestas de texto generadas por IA a indicaciones que parecían tan legítimas que infundieron miedo en los corazones de los maestros e incluso hicieron que Google temiera que la herramienta podría acabar con su actividad de investigación.

Si los ingenieros de OpenAI pueden crear un bot que pueda escribir tan bien o mejor que el humano promedio, es lógico que también puedan crear un bot que sea mejor que el humano promedio para detectar si el texto fue generado por IA.

Ya que como se mencionó por el momento OpenAI trabaja en una solución, ya se han dado a conocer al menos tres herramientas de detección que se pueden usar:

Detector de salida GPT-2

La demostración en línea del modelo de detector de salida GPT-2 le permite pegar texto en un cuadro y ver de inmediato la probabilidad de que el texto haya sido escrito por la IA. Según la investigación de OpenAI, la herramienta tiene una tasa de detección relativamente alta, pero «debe combinarse con enfoques basados ​​en metadatos, juicio humano y educación pública para ser más eficaz».

GLTR 

Cuando OpenAI lanzó GPT-2 en 2019, la gente del MIT-IBM Watson AI Lab y el Harvard Natural Language Processing Group se unieron para crear un algoritmo que intenta detectar si el texto ha sido escrito por un bot.

El texto generado por computadora puede parecer escrito por un ser humano, pero es más probable que un escritor humano seleccione palabras impredecibles. Usando el método «se necesita uno para conocer uno», si el algoritmo GLTR puede predecir la siguiente palabra en una oración, asumirá que la oración fue escrita por un bot.

GPTZero

Durante la temporada navideña, Edward Tian estuvo ocupado creando GPTZero, una aplicación que puede ayudar a determinar si el texto fue escrito por un humano o un bot. Como académico en Princeton, Tian comprende cómo los profesores universitarios pueden tener un interés personal en detectar el IAgiarismo o el plagio asistido por IA.

Tian dice que su herramienta mide la aleatoriedad de las oraciones («zumbidos») más la aleatoriedad general («ráfagas») para calcular la probabilidad de que el texto haya sido escrito por ChatGPT. Desde que tuiteó sobre GPTZero el 2 de enero, Tian dice que ya se le han acercado capitalistas de riesgo que desean invertir y que pronto desarrollará versiones actualizadas.

Fuente: https://techcrunch.com

from Linux Adictos https://ift.tt/6VKhBj9
via IFTTT

Buscan cambiar el nombre de los proyectos Apache

Apache

Piden Apache que cambie de nombre

Hace poco se dio a conocer la noticia de que Natives in Tech, una organización sin fines de lucro dedicada a desarrollar un ecosistema tecnológico para los pueblos indígenas, realizo una petición a Apache Software Foundation en la que pidió que dejara de usar la palabra «Apache» y los símbolos nativos americanos en el logotipo, incluido el cambio de nombre de todos los proyectos desarrollados con este nombre.

Sobre la petición se menciona que usar la palabra «Apache» y marcar una identidad indígena para lograr los propios objetivos se percibe como una manipulación inaceptable de los valores culturales de las minorías nacionales, distorsionando la imagen de los indígenas y basándose en estereotipos establecidos después de las películas spaghetti western.

Asociar una empresa de tecnología con una noción tan romántica, en la que la comunidad nativa americana existente y en crecimiento es tratada como muerta y desaparecida, se considera ignorante y ofensivo.

Uno de los fundadores, Brian Behlendorf, describe cómo decidió elegir el nombre Apache en el documental “Trillions and Trillions Served” :

Sugerí el nombre Apache en parte porque las tecnologías web en el momento del lanzamiento se llamaban cyber this o spider that o algo sobre esos temas y pensé que necesitábamos algo un poco más interesante, un poco más romántico, no para ser un apropiador cultural o algo por el estilo, acababa de ver un documental sobre Gerónimo y los últimos días de una tribu de nativos americanos llamada los apaches, verdad, que sucumbieron a la invasión del oeste, de los Estados Unidos, y fueron la última tribu renunciar a su territorio y para mí eso representó casi románticamente lo que sentía que estábamos haciendo con este proyecto de servidor web…

Según los autores de la iniciativa, la Fundación Apache debería actuar de acuerdo con su código de conducta, cuyo quinto párrafo exige cautela en las palabras escogidas.

Esta presentación “romántica” spaghetti-western francamente obsoleta de una comunidad viva y vibrante como muerta y desaparecida para construir una empresa de tecnología “para el bien común” es tan ignorante como ofensiva. Instamos a The Apache® Software Foundation a tomar las medidas necesarias para expresar el aliado que promueven tan profundamente en su sitio web, a actuar de acuerdo con su propio código de conducta , a “tener cuidado con las palabras que [ellos] eligen ”, y cambiar su nombre.

El portavoz de la Fundación Apache dijo que la comunidad ha escuchado y escuchará las preocupaciones de los nativos americanos, pero el cambio tomará el tiempo que le tome a la comunidad discutir el tema, evaluar las implicaciones legales y tomar una decisión informada. También se están estudiando formas alternativas de resolver el problema, pero aún no se han anunciado públicamente.

Idealizar las culturas indígenas es una forma de enmarcarlas como estáticas en lugar de dinámicas. Tampoco reconoce años de guerra, asimilación forzada y otras políticas adversas arraigadas como trauma histórico a lo largo de las generaciones y hasta el día de hoy. Las organizaciones que dicen apoyar a los pueblos indígenas pero que carecen de una conexión real con ellos, y en su lugar se basan en estereotipos históricos, no logran ser aliados de aquellos a quienes intentan emular.

Hasta 2003, el nombre del servidor Apache http se trataba en las preguntas frecuentes del proyecto como «un servidor PATCHy», es decir, Un servidor HTTP resultante de modificaciones al código base del servidor http de NCSA. En 2003, se cambió la aclaración para indicar que el nombre se eligió por respeto a las tribus indígenas apaches.

Para promover la iniciativa, 40 activistas han publicado y firmado una petición y entre los partidarios de la petición ademas de incluir a Bradley M. Kuhn, fundador de Software Freedom Conservancy (SFC), tambien se encuentran otras personas de renombre, tales como Josh Simmons, presidente de la junta directiva de OSI (Open Source Initiative) y Erin Stein, directora de Data and Tech for Good.

Finalmente si estás interesado en poder conocer más al respecto, puedes consultar los detalles en el siguiente enlace.

from Linux Adictos https://ift.tt/qhnY8Df
via IFTTT

Discourse, la plataforma de debate celebra 10 años de su primer lanzamiento

Discourse

Discourse es una plataforma de debate 100 % de código abierto

Se dio a conocer el lanzamiento de la nueva versión de la plataforma Discourse 3, la cual esta diseñada para respaldar las discusiones en línea que utilizan muchos proyectos de código abierto en lugar de listas de correo, foros web y salas de chat.

Esta nueva versión incluye chat en tiempo real y estado del usuario para permitir una comunicación más informal, una barra lateral personalizable para un acceso más fácil a las cosas que más le importan a cada usuario y una nueva interfaz de notificaciones que facilita decidir qué es importante para el seguimiento. , junto con muchas otras mejoras.

Cabe mencionar que esta plataforma soporta la división de temas en base a etiquetas, envío de notificaciones sobre la aparición de respuestas a mensajes, actualización de la lista de mensajes en temas en tiempo real, carga dinámica de contenido a medida que lee, posibilidad de suscribirse a temas de interés y envío de respuestas por Email.

 

Con este lanzamiento también celebramos 9 años desde Discourse 1.0 , cuando nos propusimos construir una plataforma para el discurso civilizado que permitiera a las comunidades mejorar la calidad de las conversaciones en Internet. A medida que nos acercamos a una década en nuestro viaje, nuestro deseo de mejorar Discourse para diversas comunidades de todos los tamaños es más fuerte que nunca y esperamos seguir evolucionando con usted durante la próxima década.

Principales novedades de Discourse 3

En esta nueva versión que se presenta de Discourse 3 podremos encontrar que se ha agregado una implementación de chat que permite a los participantes comunicarse en tiempo real, ademas de que ahora los miembros tienen la capacidad de poder agregar categorías, etiquetas, chats al panel y que este ultimo también tiene una sección de «Comunidad» con los enlaces más utilizados.

Otro de los cambios que podremos encontrar es que se ha propuesto una nueva barra lateral configurable por el usuario, asi como tambien que se proporciona la posibilidad de exhibición por parte del usuario del estado. El estado se establece en forma de emoji o mensaje que se mostrará asociado al participante en todas las secciones de la plataforma (por ejemplo, al lado del avatar en las publicaciones, en el chat y en el perfil).

Tambien podremos encontrar que se agregó una nueva interfaz para mostrar notificaciones, lo que facilita la separación de notificaciones importantes y secundarias. Los diferentes tipos de notificaciones ahora se colocan en pestañas separadas, así como una sección general con notificaciones recientes.

Se ha propuesto un nuevo asistente de configuración inicial que le permite al usuario poder configurar los parámetros más importantes de la plataforma, como el modelo de acceso (disponible para todos o solo los usuarios registrados), el formulario de registro (para todos o solo por invitación), la necesidad de confirmar participantes , la presencia de un chat y la inclusión de una barra lateral.

De los demás cambios que se destacan

  • Se ha proporcionado la capacidad de mostrar sugerencias emergentes a los nuevos usuarios con información básica sobre las capacidades de la plataforma.
  • Se ha rediseñado el sistema de hashtags, lo que facilita el envío por nombres de canales, categorías y etiquetas.
  • Proporcionó la capacidad de definir grupos de participantes que pueden comunicarse entre sí de forma privada por separado en temas.
  • Se mejoró la interfaz de búsqueda, se agregó la capacidad de buscar rápidamente usuarios y temas en una determinada categoría adjuntando filtros «#» y «en:» a la solicitud.
  • La pila de software de la plataforma se ha actualizado: Ruby 3.1, Rails 7 y Ember 3.28.
  • Información ampliada en las páginas mostradas en caso de errores. Pantalla de inicio mejorada que aparece durante la carga.
  • Modo oscuro mejorado.

Finalmente para los interesados, deben saber que el sistema está escrito en Ruby utilizando el marco Ruby on Rails y la biblioteca Ember.js (los datos se almacenan en PostgreSQL DBMS, el caché rápido se almacena en Redis). El código se distribuye bajo la licencia GPLv2.

Ademas, tambien vale la pena mencionar que se ofrecen planes de alojamiento que van desde $25 USD en adelante, aunque como se menciono, el código de la plataforma está a disposición del publico en general en el siguiente repositorio.

Si estás interesado en poder conocer más al respecto sobre este nuevo lanzamiento, puedes consultar los detalles en la publicación original, el enlace es este.

from Linux Adictos https://ift.tt/5CohU1z
via IFTTT