Sesgo del detector de IA y mayor cobertura de educación en The Markup

Hola Mundo

Una de nuestras reporteras más recientes comparte sus planes para investigar la tecnología en la educación superior Por Tara García Mathewson

Hello World es un boletín semanal, que se entrega todos los sábados por la mañana, que profundiza en nuestros informes originales y las preguntas que planteamos a los grandes pensadores en el campo. Explore el archivo aquí.

Hola lectores. ¡Estoy emocionado de presentarme a todos ustedes! Soy Tara García Mathewson, una de las reporteras más nuevas de The Markup, y cubriré la educación superior aquí. Mi primera historia se publicó la semana pasada y me gustaría contarles más sobre ella, así como también lo que planeo cubrir en este tema.

Aprendizaje automático

Un estudio de Stanford encontró que los detectores de IA están sesgados contra los hablantes no nativos de inglés

Primero, en caso de que te lo hayas perdido, mi historia trata sobre el sesgo incorporado en los detectores de IA, que se hicieron populares en los campus universitarios después de que ChatGPT creara un nuevo pánico sobre las trampas. Los detectores tienen como objetivo identificar la escritura generada por IA. Si bien se podría considerar que es un objetivo loable, los detectores de IA funcionan buscando frases predecibles, vocabulario simple y gramática menos compleja, características distintivas de la escritura generada por IA que coinciden con el estilo de escritura de muchos hablantes no nativos de inglés.

Los detectores, explica mi artículo, hacen que muchos estudiantes internacionales sean especialmente vulnerables a acusaciones falsas de hacer trampa. Hablé con varios estudiantes que estaban preocupados por las posibles consecuencias, que iban desde conversaciones incómodas con sus profesores y sentimientos heridos hasta daños a la reputación a largo plazo y una posible deportación. También hablé con educadores que estaban frustrados por los problemas de precisión de los detectores, así como por el pánico en torno al uso de ChatGPT en los campus universitarios.

El desgloseAprendizaje automático

Cuatro preguntas críticas que los padres y educadores deberían hacerse

Si te perdiste la historia la semana pasada, échale un vistazo y compártela con cualquier estudiante universitario o profesorado en tu vida. Todavía me encantaría saber de instructores que hayan notado tendencias en los errores de los detectores de IA y de estudiantes que hayan sido acusados ​​falsamente de hacer trampa gracias a herramientas defectuosas. Además de los estudiantes internacionales, los campus albergan a muchos inmigrantes recientes cuya primera lengua no es el inglés, y ellos también siguen siendo particularmente vulnerables a los sesgos de los detectores de IA. Puedes comunicarte conmigo en [email protected] si deseas compartir tu experiencia o pasar mi correo electrónico a alguien que conoces.

Mientras tanto, déjame decirte cómo pienso sobre este ritmo. Planeo centrarme en el uso y mal uso de la tecnología en la educación superior. Quiero descubrir los daños que pueden atribuirse al uso de la tecnología educativa y la proliferación del aprendizaje en línea. Estoy particularmente interesado en hacer una crónica de los daños a los estudiantes con discapacidades, aquellos con ingresos más bajos, aquellos que viven en áreas rurales y aquellos que son inmigrantes, estudiantes universitarios de primera generación, estudiantes que regresan, cuidadores o cualquier combinación de los anteriores. .

Si bien en mis historias aparecerán instituciones de élite, analizaré más de cerca lo que está sucediendo en los lugares donde se matricula la gran mayoría de estudiantes de educación superior de Estados Unidos, es decir, instituciones menos selectivas como los colegios comunitarios y las instituciones públicas de cuatro años.

También quiero investigar las empresas que ganan dinero con la educación con fines de lucro y el mercado multimillonario de la tecnología educativa. Volveré a sus bandejas de entrada cuando encuentre ejemplos de sus ganancias a expensas de los estudiantes.

Elevar a mismo nivel

Utilice estas herramientas y técnicas para obtener "recibos de la calle" con poco o ningún código

He tenido varias conversaciones con investigadores, defensores, profesionales de TI, profesores y estudiantes durante las últimas semanas, para conocer el terreno en el mundo de la educación superior. Llegué a The Markup con más de una década de experiencia en informes educativos, aunque principalmente en escuelas K-12. Espero obtener una comprensión más profunda de cómo funcionan (o no funcionan) los colegios y universidades y ampliar la cobertura de educación superior de The Markup. De hecho, aquí hay otro comentario por si te lo perdiste: ¿Viste la historia de Todd Feathers de 2021 sobre cómo las universidades utilizan la raza como factor de riesgo para el éxito de los estudiantes? El software que Todd describió, Navigate de EAB, aparentemente todavía lo utilizan más de 850 colegios y universidades para asesorar a más de 10 millones de estudiantes. ¡Vale la pena sumergirse en los archivos para leer la historia!

Si tiene alguna idea para mí, o algún día se encuentra con algo preocupante que involucre tecnología y educación superior, sepa que me encantaría saber de usted. Nuevamente, puede enviarme un correo electrónico a [email protected].

¡Gracias por leer! Espero estar en contacto.

Tara García MathewsonReporteraThe Markup

Sus donaciones impulsan nuestros informes galardonados y nuestras herramientas. Juntos podemos hacer más. Dar ahora.

Sesgo del detector de IA y mayor cobertura de educación en The Markup

De la serie - Hola Mundo

Tara García Mathewson Reportera