La discusión sobre la soberanía de la IA puede desarrollarse a nivel gubernamental, en la sala de juntas y en los medios nacionales, pero estas conversaciones se llevan a cabo a distancia de las personas que utilizan y dependen de la IA en su día a día.
Los gobiernos debaten sobre la regulación, mientras las empresas tecnológicas evalúan dónde construir y alojar sus modelos. Fundadores e inversores valoran el riesgo geopolítico, la infraestructura y el acceso a la potencia de cómputo, mientras los reguladores consideran cómo deben desarrollarse y desplegarse los sistemas de IA. Para las personas que usan IA a diario, como los estudiantes, los cambios en la soberanía de la IA y la regulación pueden afectar si las herramientas de las que dependen siguen estando disponibles.
Hoy, los estudiantes pueden depender de la IA mientras tienen poca visibilidad sobre la infraestructura y las decisiones políticas que determinan si pueden continuar utilizándola. El debate sobre la soberanía digital tiene el potencial de convertirse en una barrera de accesibilidad innegable para los estudiantes.
La soberanía digital pone una sombra sobre el acceso de los estudiantes a las herramientas de IA
La Unión Europea tiene una historia de dependencia de tecnología e infraestructura procedentes de fuera del bloque económico y político. Más del 80% de la tecnología utilizada en Europa y alrededor del 70% de su computación en la nube provienen de países no pertenecientes a la UE. La adopción de IA ha incrementado la dependencia de Europa respecto a otros países, con Estados Unidos y China representando la mayor parte de la infraestructura global de cómputo de IA.
Este año, Europa ha avanzado en regular el uso de IA, lo que por necesidad implica regular a las corporaciones extranjeras. Este tipo de regulación puede terminar afectando fácilmente qué servicios pueden acceder los estudiantes. El objetivo regulatorio es comprensible. Los sistemas de IA potentes plantean preguntas genuinas en torno a la seguridad, la rendición de cuentas, la privacidad y la propiedad intelectual, pero las consecuencias para los usuarios diarios pueden extenderse más allá del cumplimiento.
No hace mucho, el gobierno de EE. UU. restringió el acceso a los modelos más potentes de Anthropic, citando preocupaciones sobre sus aplicaciones de ciberseguridad. Fue la primera vez que gobiernos y políticos en Europa enfrentaron la realidad de que el gobierno estadounidense puede cortar de facto el acceso extranjero a sistemas de IA estadounidenses. Las implicaciones van más allá de cualquier LLM.
Para los estudiantes, eso puede significar que una herramienta de estudio funcione perfectamente para un compañero en un país y no esté disponible para otro estudiante a solo cientos de metros de distancia.
Si los sistemas educativos se vuelven dependientes de servicios de IA desarrollados y controlados en otros lugares, un cambio en la regulación, la estrategia comercial o las relaciones internacionales podría afectar la disponibilidad de las herramientas que los estudiantes han llegado a considerar parte de su entorno de aprendizaje diario.
Los estudiantes podrían enfrentarse a una exposición inmediata si cambian las regulaciones de IA
La IA en la educación se está expandiendo rápidamente. Las herramientas de IA se están integrando en tutoría, creación de contenidos, evaluación, asistencia al estudio y aprendizaje interactivo. Como con cualquier herramienta digital ampliamente adoptada, sin embargo, la dependencia de un único producto de una única empresa conlleva grandes posibles problemas.
Volviendo a 2021, una breve caída global que afectó a WhatsApp tuvo consecuencias devastadoras y generalizadas, desde cortar la telemedicina vital para migrantes refugiados en México hasta interrumpir la cría de ganado en Pakistán. En ese momento quedó claro que la sobredependencia de una única plataforma tecnológica puede impactar significativamente la vida de personas en todo el mundo.
Lo mismo ocurre para los estudiantes que utilizan herramientas de IA que dependen de un único modelo o que son vulnerables a cambios regulatorios. Un estudiante que usa una plataforma de estudio impulsada por IA cada día puede no saber si el servicio depende de un solo modelo o de varios. Puede no saber si sus datos se almacenan local o internacionalmente. Puede no saber si el proveedor tiene un plan de contingencia si un modelo se vuelve inaccesible.
La cuestión se vuelve especialmente importante a medida que las herramientas de IA pasan de ser comodines a integrarse en las rutinas de estudio. Imagina a un estudiante preparando un examen que ha utilizado durante meses con un tutor de IA para explicar conceptos y generar preguntas de práctica. Si el modelo subyacente de pronto se vuelve inaccesible en el país del estudiante, puede afectar su forma establecida de aprender en un momento crítico de su trayectoria educativa.
Diseño de herramientas educativas de IA para la resiliencia
Una plataforma educativa de IA resiliente debe considerar qué ocurre cuando un modelo particular no está disponible debido a cambios regulatorios o a una caída generalizada.
Una aproximación es la diversidad de modelos. Dado que los diferentes modelos de IA tienen distintas fortalezas, una plataforma puede usar un modelo para un tipo particular de razonamiento, otro para reconocimiento óptico de caracteres y otro para procesamiento de audio. La diversidad de modelos suele estar impulsada por la necesidad de un mejor rendimiento en tareas educativas diferentes.
Diversificar modelos también puede proporcionar resiliencia. Si un modelo se vuelve inaccesible, una plataforma que use varios modelos puede redirigir ciertas cargas de trabajo. Los flujos de trabajo de respaldo pueden añadir una capa adicional de continuidad, aunque cambiar entre sistemas puede requerir tiempo y las alternativas pueden no ofrecer capacidades idénticas.
Adopción del enfoque EU-first (y qué sigue para la alfabetización en IA de los estudiantes)
Se le llama el efecto Bruselas. Desde regulaciones de sostenibilidad hasta el derecho del consumidor a reparar, la envergadura y peso económico de la Unión Europea suelen hacer que las regulaciones dentro de sus fronteras también configuren el comportamiento corporativo fuera de ellas.
Tomar un enfoque EU-first para una plataforma educativa de IA implica ubicar la mayoría de los datos de la plataforma dentro de la Unión Europea, favoreciendo consideraciones sobre soberanía de datos, privacidad y cumplimiento regulatorio. Algunas dependencias de servicios e infraestructura procedentes de fuera de Europa pueden seguir siendo inevitables, especialmente en un ecosistema tecnológico donde muchos de los principales proveedores de IA tienen sede en Estados Unidos.
Una plataforma educativa que dependa enteramente de un único proveedor de modelos hereda, en efecto, la disponibilidad y la exposición a cambios regulatorios de ese proveedor. Una plataforma con varias opciones de modelos y procesos de respaldo tiene más capacidad de adaptarse.
Al alinear las prácticas de gestión de datos de esa plataforma con las regulaciones globales más estrictas (que en este momento son las del marco de la UE), las compañías de IA educativa pueden hacer gran parte del trabajo necesario para mantener el acceso a herramientas de IA críticas para sus estudiantes.
Desde la perspectiva de los estudiantes, es necesario abrir un nuevo capítulo en la alfabetización en IA en la educación, que debe incluir una comprensión básica de la dependencia de IA.
Se debe animar a los estudiantes a preguntar qué sistemas de IA alimentan las herramientas que usan; qué ocurre si alguno de esos sistemas se vuelve inaccesible; dónde se almacenan y procesan sus datos; y si una regulación en otro país puede afectar su acceso. No necesitan convertirse en expertos en infraestructura de nube o en política de IA, pero sí deben entender que una aplicación de IA forma parte de un ecosistema tecnológico más amplio.
Los estudiantes en la era de la IA dependerán de sistemas cuya arquitectura subyacente no pueden ver. Por ello, el sector educativo tiene la responsabilidad de hacer esas dependencias más visibles y mitigarlas cuando sea posible. La alfabetización en IA debe ir más allá de saber cómo prompts a un modelo o evaluar su respuesta. Debe incluir una comprensión de de dónde proviene la IA, de qué depende y de qué sucede cuando el acceso se interrumpe.
Hemos destacado las mejores plataformas de aprendizaje en línea.
Este artículo se produjo como parte de TechRadar Pro Perspectives, nuestro canal para presentar a las mentes más brillantes de la industria tecnológica hoy en día.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si estás interesado en contribuir, descubre más aquí: https://www.techradar.com/pro/perspectives-how-to-submit
from Latest from TechRadar https://ift.tt/fVcITQ9
via IFTTT IA
