Los diseñadores educativos han estado a la vanguardia de la ampliación de las experiencias de aprendizaje de todo tipo durante el último siglo, haciendo la transición de nuestras sociedades de prácticas de enseñanza altamente locales a otras que tienen una conexión compartida con las teorías de la enseñanza y el aprendizaje que se pueden practicar a gran escala. Sin embargo, en lo que se ha calificado como una prisa por "cientificar" la disciplina del diseño instruccional (Smith y Boling, 2009), es posible que se hayan perdido algunos de los componentes centrales de lo que significa remodelar el mundo a través del diseño. El principal de estos componentes es quizás la responsabilidad del propio diseñador de crear nuevos futuros, dar forma a los mundos y las vidas y mantener o hacer frente a las normas estructurales que, con mayor frecuencia, desempoderan o excluyen en lugar de empoderar y emancipar. De hecho, los modelos que dominan el campo del diseño instruccional rara vez incluyen referencias a los componentes morales y éticos que están en el centro de la pedagogía experimentada, y esta falta de enfoque ha impedido, durante décadas, que los académicos y profesionales de nuestro campo cuestionen y negocien las tensiones éticas en el diseño de las experiencias de aprendizaje.

En este capítulo, abordaré esta histórica falta de atención a la ética en el diseño educativo centrándome en el papel del propio diseñador en la negociación de valores y normas contrapuestos como parte clave de la participación en el trabajo de diseño. Primero proporcionaré algunos antecedentes breves para describir cómo el papel del diseñador se cruza con una visión más amplia del diseño como un cambio intencional y una construcción del mundo. A continuación, utilizaré dos viñetas que describen la intersección del diseño educativo y una categoría específica de tecnologías (el reconocimiento facial) para identificar los valores relevantes y las tensiones éticas que los diseñadores educativos deben reconocer y afrontar. Concluyo con algunas ideas sobre cómo el campo del diseño educativo podría reubicar la ética en su esencia e influir en la teoría y la práctica de los diseñadores educativos de manera que no solo reconozcan sino que también aprovechen explícitamente la creación de futuros más éticos e inclusivos.

Enmarcar el panorama ético de la práctica del diseño

El diseño es un acto ético mediante el cual cambiamos "las situaciones existentes por otras preferentes" (Simon, 1996). Sin embargo, qué mundo se está configurando y qué constituye un estado preferido es objeto de controversia y está cargado de valores (Willis, 2006). Si bien la educación y la instrucción se han enmarcado como una empresa moral (por ejemplo, Durkheim, 2012; Nucci, 2006) y la asimilación por parte del alumno de las normas y los valores como parte de su esquema cognitivo como parte inherente de la práctica educativa, el campo del diseño y la tecnología educativos ha abordado de manera desigual, o incluso reconocido, el papel de la ética en el diseño de las experiencias educativas (véase Gray y Boling, 2016; Yeaman et al., 1994 como síntesis del incipiente interés por la ética en la identidad a lo largo de varias décadas).

En mi investigación que abarca más de una década, he tratado de describir cómo los valores y las cuestiones de interés ético se manifiestan en la actividad de diseño, incluido el trabajo en todo el espectro del diseño educativo, el diseño de experiencias de aprendizaje, el diseño de interacción humano-computadora y más allá (Boling et al., 2020; Chivukula et al., 2020; Gray y Boling, 2016; Gray y Chivukula, 2019; Gray et al., 2015). A través de este trabajo, mis coautores y yo hemos revelado los juicios subjetivos y contingentes que guían la práctica del diseñador (Gray et al., 2015), el papel mediador del diseñador a la hora de identificar y responder a la complejidad ética del diseño (Gray y Chivukula, 2019) y las prácticas de los diseñadores que a menudo refuerzan un desequilibrio de poder entre las partes interesadas y los usuarios finales a través de prácticas como el diseño engañoso, el "diseño imbécil" o el uso de lo oscuro patrones (Gray, Chivukula, et al., 2020, 2021; Gray et al., 2018). Estos estudios han revelado lo que los diseñadores sabían desde los albores de la Revolución Industrial: los diseñadores son agentes poderosos que pueden utilizar sus habilidades para remodelar el mundo, reforzando las desigualdades estructurales, complaciendo los peores excesos de la humanidad o contribuyendo a prácticas de diseño emancipadoras y socialmente justas (cf., Costanza-Chock, 2020; Papanek, 1971).

Si bien muchas investigaciones anteriores se han centrado en situar el compromiso ético en relación con los paradigmas éticos comunes (por ejemplo, consecuencialista, virtuoso, deontológico), por ejemplo, a través de códigos de ética (Adams et al., 2001; Buwert, 2018) o metodologías que se basan en la filosofía moral (por ejemplo, Flanagan y Nissenbaum, 2014; Friedman y Hendry, 2019), en mi trabajo anterior, traté de describir cómo los diseñadores pueden enmarcar la ética como una parte fundamental de sus formas cotidianas de ser y actuar al servicio de las necesidades de los clientes de una manera socialmente responsable: que otros han descrito como "ética cotidiana" (cf., Halberstam, 1993), basándose en la tradición pragmática del compromiso ético que prioriza tanto la conciencia ética como la atención a la remodelación intencional de la sociedad de acuerdo con los valores propios (Dixon, 2020; Steen, 2015).

Hacer "ética por otros medios"

Según el compromiso filosófico de Verbeek (2006) y subrayado por el trabajo empírico de Shilton (2013, 2018), los diseñadores de todo tipo se dedican al razonamiento ético y a la acción pragmática. Sin embargo, los diseñadores lo hacen de maneras que se caracterizan por ser diferentes a las de los filósofos morales o aquellos que solo buscan teorizar sobre lo que debería o debería ser. Por el contrario, los diseñadores (re) moldean el mundo a través de juicios que siempre están ya cargados de valores, o lo que Verbeek (2006) describe como "hacer ética por otros medios", sean o no conscientes de esta armadura ética inherente a su trabajo.

¿Cómo se ve este compromiso cuando un diseñador es éticamente consciente? ¿Y cómo podría ser una situación de diseño o un conjunto de resultados de diseño cuando no hay conciencia ni sensibilidad ante el impacto ético? Presentaré dos breves viñetas sobre los contextos recientes del trabajo de diseño educativo, centrándome en la integración de tecnologías emergentes específicas para ilustrar los valores inscritos presentes en los resultados diseñados e identificar oportunidades para aumentar la conciencia ética y la capacidad de actuación del diseñador. Ambas viñetas se centran en un tipo específico de tecnología utilizada al servicio de las experiencias de aprendizaje para permitir la comparación, a saber, el uso del reconocimiento facial y la visión artificial como tecnología de vigilancia. Los contextos de aplicación del aprendizaje impulsados por la tecnología comparables (por ejemplo, el aprendizaje social a través de interacciones basadas en la web, la participación a través de la realidad mixta o los enfoques centrados en la analítica del aprendizaje, solo por nombrar algunos) podrían evaluarse de manera similar utilizando este mismo enfoque.

Vigilando el afecto y la atención en el aula residencial

Primero, describiré una viñeta anterior a la pandemia de COVID-19, que aprovechó los avances en la visión artificial. Con el aumento de la capacidad de realizar el reconocimiento facial en tiempo real, esta tecnología también se ha aplicado en contextos educativos. Más recientemente, el uso de técnicas de reconocimiento facial y visión artificial ha evolucionado más allá del mero reconocimiento (que tiene aplicaciones en entornos educativos como el seguimiento de la asistencia, por ejemplo; Mothwa et al., 2018) para intentar evaluar las actitudes, las emociones o la atención de los estudiantes (Barrett et al., 2019; Zaletelj y Košir, 2017).

Las primeras técnicas para detectar las características de los alumnos se llevaron a cabo en entornos físicos de aprendizaje, utilizando técnicas de detección que incluían cámaras de vídeo y, en algunos casos, sensores Kinect. Se han propuesto modelos de reconocimiento facial y evaluación utilizando estas fuentes de datos para clasificar los comportamientos de los alumnos en relación con el compromiso, la atención y las emociones. Por ejemplo, uno de esos sistemas propuestos publicado antes de la pandemia, conocido como EmotionCues, utilizaba "[un] análisis detallado de las emociones de los estudiantes a partir de los vídeos del aula [para] ayudar tanto a los profesores como a los padres a conocer rápidamente la participación de los estudiantes en la clase" (Zeng et al., 2021). Este tipo de técnicas de detección y análisis se han seguido perfeccionando durante la pandemia, lo que ha llevado a planes recientes de integración en un producto comercial llamado Class ofrecido por Intel y Classroom Technologies ¹ que "capturará [] imágenes de los rostros de los estudiantes con una cámara de ordenador y tecnología de visión artificial [en Zoom] y las combinará [] con información contextual sobre en qué está trabajando un estudiante en ese momento para evaluar un El estado de comprensión del estudiante" (Kaye, 2022).

¿Qué valores estuvieron en tensión al considerar el diseño y el despliegue de este sistema? En primer lugar, consideremos cómo podrían surgir estas creencias en relación con los objetivos de un diseñador educativo o instructor de evaluar o caracterizar la atención o la comprensión del alumno:

• La atención visible del alumno es fundamental para la eficacia de las experiencias de aprendizaje
• La atención del alumno puede rastrearse y evaluarse rigurosamente mediante tecnologías de reconocimiento facial
• Es importante hacer un seguimiento de la atención de los alumnos individuales en grupos grandes para proporcionar un aprendizaje o tutoría personalizados.
• Las emociones visibles pueden indicar el nivel de comprensión del alumno (como indicador del aprendizaje)
• Incluso si el seguimiento emocional o de la atención es defectuoso a sabiendas, es mejor que nada.

En segundo lugar, podemos considerar las creencias desde la perspectiva de un alumno cuya atención o emociones pueden ser rastreadas continuamente por dichas tecnologías, con o sin su conocimiento:

• Quiero que me valoren como persona.
• Quiero tener control sobre cómo me perciben los demás.
• Quiero saber qué datos se recopilan sobre mí y cómo se pueden utilizar estos datos para informar mi experiencia de aprendizaje.
• Quiero poder decir no a que me vigilen como parte de mi experiencia de aprendizaje.
• Estoy de acuerdo con que me rastreen por vídeo, pero quiero saber cómo utiliza el profesor estos datos o si están relacionados con mi grado de participación.

Algunas suposiciones del diseñador educativo o del educador se basan en la teoría del aprendizaje, en la que la atención del alumno es una condición previa fundamental para que participe en una experiencia de aprendizaje y/o construya su conocimiento. Por ejemplo, la capacidad de un profesor para reconocer visualmente los momentos en que los estudiantes están menos atentos podría ser el motivo para utilizar una estrategia pedagógica diferente (quizás planificada por un diseñador pedagógico) que resulte más atractiva. Sin embargo, algunos otros supuestos se refieren a lo que es técnicamente posible o a cómo la posibilidad técnica podría relacionarse con otros aspectos de la experiencia de aprendizaje. Por ejemplo, se podría pasar fácilmente de la creencia de que es importante seguir la atención de los alumnos individuales a asumir que cualquier tecnología que pueda escalar esta evaluación de docenas a cientos de estudiantes podría aportar un valor pedagógico. Paralelamente, la creencia de que las tecnologías pueden detectar con precisión las emociones humanas, la atención u otros indicadores de "comprensión" o "aprendizaje" puede llevar a un diseñador educativo a especificar estas tecnologías sin anticipar los casos en los que estas tecnologías fallan o dan lugar a resultados inexactos. Por ejemplo, Barrett y otros (2019) han identificado anteriormente numerosas suposiciones incorporadas en modelos de emoción defectuosos, incluida la falta de consideración del contexto, la personalidad individual y los factores culturales. Los valores del diseñador y del alumno entran en tensión en torno a la capacidad tecnológica de seguimiento y a la pragmática del uso de estas tecnologías para fundamentar la experiencia de aprendizaje. Es posible que el alumno quiera poder expresar su elección de no dejarse vigilar, aunque tenga poca o ninguna capacidad de acción para tomar esta decisión en su entorno de aprendizaje. ² Desde una perspectiva más pragmática, el diseñador educativo o el instructor pueden reconocer que los puntajes de atención producidos por el modelo de aprendizaje automático son defectuosos, pero pensar que estos puntajes son "mejores que nada". Hay numerosos valores en tensión en este ejemplo, algunos relacionados con la capacidad o eficacia tecnológica, otros que se relacionan con la autonomía del alumno frente al apoyo del instructor, y otros que se relacionan con el "estado final" de la vigilancia de las tecnologías de aprendizaje, que algunos académicos han criticado abiertamente (Andrejevic y Selwyn, 2020).

Esta viñeta plantea varias preguntas sobre las funciones y la capacidad de toma de decisiones de las múltiples partes interesadas en relación con las tecnologías emergentes y los tipos de evidencia que conducen a la toma de ciertas decisiones. ¿Debería un estudiante recurrir si considera que su "atención" es deficiente, pero esta puntuación de atención más baja se debe a un origen cultural diferente, a un estado neuroatípico o de discapacidad, o a otros fallos de la tecnología de rastreo? ¿Cuán precisas deben ser las tecnologías para que se les permita entrar en el aula? ¿Cuánto control deberían poder ejercer los alumnos sobre qué tecnologías se utilizan, qué datos se permite recopilar sobre ellas y cómo se utilizan estos datos? ¿Qué grado de transparencia debe tener para el alumno el uso que hacen los profesores o los diseñadores de los datos extraídos mediante las tecnologías de vigilancia para fundamentar las calificaciones u otras decisiones?

Vigilancia en el hogar

Tras la pandemia de COVID-19, los educadores buscaron cambiar sus prácticas educativas para abordar las realidades de la "pedagogía pandémica". La enseñanza residencial, en particular, pasó a la modalidad de "enseñanza remota de emergencia" (Hodges et al., 2020), y los profesores se apresuraron a buscar alternativas de evaluación que permitieran trasladar los métodos de evaluación supervisados existentes a los hogares de los estudiantes. Por supuesto, las pruebas supervisadas a distancia no eran nada nuevo, pero la escala y la velocidad a las que se llevó a cabo este cambio rara vez abordaron cuestiones de equidad, autonomía de los estudiantes y la traducción del contexto de la evaluación sin tener en cuenta otras suposiciones sobre cómo estos valores inscritos afectarían a la experiencia del alumno. Los artículos de la prensa popular rápidamente denunciaron este software como intrusivo, y la experiencia de los estudiantes con los tipos de comportamientos señalados por programas comunes como Proctorio y Examity, que utilizaban la detección de rostros y miradas, precipitó la indignación.

El resultado podría haberse predicho con base en la literatura anterior sobre privacidad y educación (por ejemplo, Arpaci et al., 2015). Los estudiantes matriculados en instituciones de educación superior de todo el mundo tenían que descargar e instalar software altamente intrusivo en sus dispositivos personales. El software normalmente requería el acceso a un micrófono y a una cámara web. Muchas "soluciones" de supervisión también requerían que el estudiante verificara que la sala estaba libre de otras personas y señalaba los casos en los que se escuchaban otras voces. El Washington Post publicó una anécdota sobre el peor momento de este seguimiento:

"'UN ESTUDIANTE EN 6 MINUTOS HIZO 776 MOVIMIENTOS DE CABEZA Y OJOS', escribió [el instructor] [a un estudiante], y añadió más tarde: 'Odiaría tener que escribirte'".

[...]

En una conversación grupal con sus compañeros, un estudiante respondió: "¿Cómo diablos vamos a controlar nuestros ojos?" (Harwell, 2020)

.

Este seguimiento se produjo durante una pandemia en la que los familiares y amigos estuvieron encerrados con frecuencia en lugares cerrados. Muchos estudiantes no tenían un acceso adecuado a la privacidad física, otros se enfermaban mientras asistían a clase a distancia y, aun así, otros experimentaban altos niveles de ansiedad, ya que el mundo parecía arder a su alrededor en medio de la mayor crisis de salud en un siglo. El uso de un software invasivo de supervisión fue una receta para el desastre, además de las realidades de la pandemia, como la necesidad de ponerse en cuarentena o aislarse, los rápidos cambios en los protocolos de salud pública y la transición desigual a las pedagogías de aprendizaje a distancia.

Si bien es fácil ver las tensiones socioculturales y sociotécnicas particulares provocadas por la pandemia como difíciles pero peculiares (cuestiones que no podían preverse ni mitigarse), la realidad es algo diferente. Incluso antes de la pandemia, algunos estudiantes no tenían acceso a los tipos de tecnología y privacidad que suponía el software de supervisión (Gonzales et al., 2020). Las características de la evaluación que contaban con el respaldo incuestionable de los proveedores de software de supervisión, que ponían de relieve formas específicas de rigor y validez en entornos específicos de evaluación controlada, tuvieron un impacto desigual en el aprendizaje de los estudiantes en los entornos menos hospitalarios. Estos impactos socioculturales los sintieron más agudamente las personas que estaban en desventaja y desempoderadas interseccionalmente: las que vivían en espacios de vida compartidos con muchos familiares y amigos, las que se quedaban sin hogar y vivían en sus automóviles u otros entornos ad hoc, y las que carecían de dispositivos digitales actualizados.

¿Qué valores estaban en la tensión ³? Los valores que se encuentran en primer plano en el diseño de la instrucción (o, en este caso, en la evaluación) se basan en las creencias que uno tiene acerca de su disciplina, su pedagogía y la naturaleza de las experiencias de los estudiantes que se consideran más beneficiosas. ^{En primer lugar, consideremos cómo podrían surgir estas creencias en relación con la idea de las pruebas como método de evaluación 4:}

• Las pruebas son el mejor modo de evaluación para ciertos tipos de conocimiento del contenido.
• Las pruebas son el medio más práctico de evaluar el dominio del conocimiento del contenido por parte de los estudiantes en aulas grandes.
• Las pruebas son defectuosas, pero no hay tiempo para cambiar a otras formas de evaluación.
• Las pruebas son el único método de evaluación común en mi disciplina.
• La incapacidad de los estudiantes para "hacer trampa" o utilizar fuentes de conocimiento externas es un criterio clave para el rigor y la validez de la evaluación.
• La evaluación de las señales externas (por ejemplo, audio, vídeo, mirada) se puede utilizar para detectar los conductores más comunes que hacen trampa.

Estas creencias apuntan hacia valores que se centran principalmente en la pragmática de la instrucción, centrándose en cuestiones de escala, coherencia y/o tradición. En segundo lugar, podemos considerar las creencias desde la perspectiva de un alumno a causa de una pandemia:

• Solo estoy intentando sobrevivir
• Quiero sentirme valorado como persona
• Quiero que me juzguen por lo que puedo hacer en un entorno auténtico

Estas creencias apuntan hacia valores como la autenticidad, la autonomía o la transparencia. Los valores que se incluyeron en las decisiones de diseño iniciales en torno a la evaluación basada en los exámenes eran potencialmente problemáticos (se centraban en cuestiones centradas en el profesor y no en la experiencia del estudiante o en la permanencia de los resultados del aprendizaje), pero los daños interseccionales de estas decisiones podían minimizarse debido a la naturaleza pública del aula residencial, donde se garantizaba más fácilmente el acceso a los dispositivos tecnológicos. Sin embargo, cuando estas suposiciones públicas, incluida la minimización de la privacidad individual de los estudiantes, se trasladaron y se trasladaron al hogar, dormitorio u otro entorno de vida del estudiante, estos valores inscritos se volvieron evidente y transparentemente inequitativos. ¿Debería un programa informático o un supervisor tener derecho a conocer la situación de vida del estudiante? ¿Deberían los estudiantes no solo someterse a la vigilancia obligatoria, sino también pagar por el privilegio de ser vigilados (en muchos casos)? ¿A qué tipos de privacidad debe renunciar el estudiante para poder participar en las evaluaciones obligatorias? ¿Qué límites pueden o deben existir en el espacio liminal entre el instructor, el entorno educativo y el estudiante?

Debate

Si bien en este capítulo he proporcionado dos ejemplos de vigilancia explícita para proporcionar un punto de enfoque, muchas otras tácticas que suelen utilizar los diseñadores educativos para rastrear y evaluar el progreso de los alumnos también podrían verse desde una perspectiva más crítica. ¿Cuándo pasa el uso de la analítica del aprendizaje para rastrear los datos del flujo de clics a un nivel profundamente detallado en un LMS, una aplicación o un módulo de aprendizaje del objetivo principal de proporcionar valor al alumno a la recopilación y el modelado de datos porque las partes interesadas pueden hacerlo? ¿Qué tan transparentes son estos métodos de recopilación y uso de datos y cuánto control tiene el alumno sobre la forma en que se recopilan y utilizan sus datos? ¿Qué formas de privacidad deberían garantizarse a los alumnos y cómo sabrían que pueden elegir la forma en que se recopilan y utilizan sus datos como parte de su experiencia educativa? ¿Cómo podrían utilizarse las técnicas engañosas, como los patrones oscuros, para orientar el comportamiento y las interacciones de los alumnos con los materiales educativos? ¿Y cuándo podrían utilizarse las prácticas manipuladoras para exigir abiertamente la vigilancia en contextos en los que los alumnos no tienen otro recurso, de acuerdo con las definiciones anteriores de "propiedades de diseñador imbécil" (Gray, Chivukula y otros, 2020)?

Las tecnologías de aprendizaje y otros resultados de las prácticas de diseño educativo son representativos de pocos contextos en los que los usuarios no tienen que dar su consentimiento de manera significativa, en los que su compromiso con los profesores o los módulos de aprendizaje obligatorios ya está cargado de poder y en los que la voz del alumno a menudo puede evitarse o ignorarse abiertamente. ¿Qué prácticas de diseño orientadas a la justicia (Costanza-Chock, 2020; Svihla et al., 2022) podrían utilizarse para reafirmar la autonomía del alumno, fomentando la consideración de los posibles daños y futuros abusos de las tecnologías educativas? ¿Cómo podría el campo del diseño y la tecnología de la enseñanza considerar, en esencia, las cuestiones del impacto ético? Como escribió recientemente Moore (2021), los modelos que comúnmente se denominan la base teórica de nuestro campo no explican ni respaldan adecuadamente las prácticas cotidianas de los diseñadores educativos; además, estos modelos rara vez abordan cuestiones de interés ético y, mucho menos, hacen que estas preocupaciones sean fundamentales para la práctica del diseño. En este sentido, nuestro campo está muy por detrás de los demás. Papanek (1971) abogó por la centralidad de la ética en el diseño industrial en la década de 1970, citando el daño que se estaba haciendo en nombre de la cultura del consumo desechable. ^{Garland (1964) denunció los abusos que cometían los diseñadores gráficos a la hora de hacer publicidad dirigida a los consumidores en la década de 1960, y Milton Glaser los describió con pasos al estilo de Dante que un diseñador podría considerar un "camino al infierno" 5.} Metodologías como el diseño sensible a los valores (Friedman y Hendry, 2019) y los valores en juego (Flanagan y Nissenbaum, 2014) también han dado forma a campos adyacentes al diseño educativo durante décadas. Entonces, ¿qué debemos hacer como estudiosos y profesionales del diseño educativo para "ponernos al día" y reubicar la ética en el centro de nuestra práctica?

Describiré dos elementos fundamentales de la práctica centrada en la ética que los educadores, estudiantes y profesionales del diseño educativo deberían considerar: 1) identificar los valores y asuntos de interés ético como siempre existentes como parte del trabajo de diseño educativo y 2) aprovechar y utilizar la ética para centrar las conversaciones de diseño en las preocupaciones éticas prestando atención a las oportunidades de acción.

Los valores están mediados por el diseñador

Los problemas planteados a través de un análisis de las tecnologías de vigilancia en el diseño educativo permiten el acceso inicial a los valores implícitos en todos los entornos de aprendizaje. Los estudiosos de la pedagogía crítica han descrito algunas de estas facetas de la experiencia de aprendizaje como el "currículo oculto" (Gray, Parsons, et al., 2020; Snyder, 1970; Volpi, 2020), describiendo las cosas que se aprenden aunque no se enseñen de forma explícita. Por lo tanto, las técnicas reconstructivas como las utilizadas en las viñetas anteriores se pueden utilizar como un punto de partida para comprender las implicaciones estructurales y socioculturales más amplias de las decisiones de diseño instruccional en las escalas más amplias.

Sin embargo, la inscripción de valores y el impacto ético también moldean las decisiones de diseño educativo más mundanas. Estas tensiones se relacionan con lo que Vickers (1984) denomina el sistema apreciativo, que Schön (Boling et al., 2020) utilizó para describir cómo los diseñadores encuadran la situación de diseño, consideran soluciones y luego utilizan los supuestos apreciativos subyacentes de esas soluciones para reiterar y hacer avanzar el proceso de diseño. Esta confianza en un sistema apreciativo, que incorpora un conjunto y una jerarquía de valores y un punto de vista particular, es una parte ineludible del trabajo de diseño que solo puede asumir un diseñador que actúa en función de sus juicios morales y su carácter de diseño (Boling et al., 2020). Para abordar este espacio complejo y con matices éticos, el diseñador debe utilizar su juicio para comprender tanto la complejidad inherente del contexto del diseño (lo que Stolterman, 2008 denomina "complejidad del diseño") como el carácter ético de ese espacio, que hace que algunas decisiones sean más preferibles para ciertas partes interesadas en determinadas condiciones (lo que Gray y Chivukula, 2019 denominan "complejidad ética del diseño"). La complejidad ética del diseño pone de relieve tanto los valores que están "en juego" como parte del contexto del diseño como el papel del diseñador en la manipulación de estos valores como parte fundamental del proceso de diseño: "arreglos complejos y coreografiados de consideraciones éticas que el diseñador media continuamente a través de la lente de su organización, prácticas individuales y marcos éticos" (Gray y Chivukula, 2019, p. 9). Los diseñadores educativos deben estar preparados para reconocer esta complejidad ética inherente al diseño y, en lugar de cientificar o abstraer esta responsabilidad ética, aceptar su contingencia y subjetividad en nombre de los alumnos y la sociedad a los que desean apoyar.

Los valores (y los métodos que involucran valores) deberían ser un elemento clave al hacer y hablar sobre el trabajo de diseño

Incluso los diseñadores con las mejores y más altruistas intenciones pueden diseñar resultados que son directamente perjudiciales para los alumnos o producir impactos sociales que reproducen inequidades ^6. Como punto de partida para considerar estos daños, los diseñadores deberían considerar el uso de metodologías sensibles a los valores, como las propuestas por Friedman y Hendry (2019), o un uso más amplio y flexible de métodos de diseño que involucren a los diseñadores a considerar el impacto ético en varias dimensiones. Mis colegas y yo hemos recopilado y organizado un conjunto de métodos centrados en la ética en https://everydayethics.uxp2.com/methods, y hay más detalles sobre cómo creamos esta colección en un artículo de investigación complementario (Chivukula et al., 2021). Como parte de nuestro proceso de recopilación y análisis, hemos identificado múltiples "intenciones" que podrían impulsar una práctica más centrada en la ética, como: quiero tener información adicional sobre mis usuarios, quiero identificar los valores adecuados para impulsar mi trabajo de diseño; quiero averiguar cómo dividir mi trabajo de diseño; quiero evaluar los resultados de mi diseño; quiero aplicar valores específicos en mi trabajo de diseño; quiero alinear a mi equipo para abordar decisiones difíciles; y quiero entiendo mi responsabilidad como diseñador. Muchas de estas intenciones podrían utilizarse para entablar conversaciones similares a las planteadas en las viñetas anteriores que se relacionan con el carácter ético de las decisiones clave de diseño, las expectativas de impacto social o la identificación de los daños directos o indirectos a los alumnos u otras partes interesadas.

Hemos considerado el caso del diseñador cuidadoso que se preocupa por el impacto social y que podría encontrar un valor sustancial en mejorar sus prácticas a través de métodos de diseño centrados en la ética. Sin embargo, los diseñadores, a sabiendas o sin saberlo, también pueden incluir prácticas nocivas en los resultados que diseñan, aprovechando el conocimiento del comportamiento humano. Estas tácticas se conocen comúnmente como patrones oscuros: estrategias de diseño que proporcionan más valor a la parte interesada o accionista que al usuario (Gray, Chen et al., 2021; Gray et al., 2018; Gunawan et al., 2021; Mathur et al., 2021). También se han catalogado formas de manipulación o coerción más hostiles y transparentes bajo la etiqueta de estrategias de diseño imbéciles (Gray, Chivukula et al., 2020), que disminuyen explícitamente la autonomía del usuario. Como se expuso anteriormente en las dos viñetas que describieron el uso del reconocimiento facial para mejorar las experiencias de aprendizaje, algunos daños pueden atribuirse directamente a creencias acerca de la instrucción o la evaluación que pueden ser inequitativas o problemáticas desde el punto de vista ético. Sin embargo, otras tácticas engañosas pueden ser menos fáciles de identificar al principio, ya que orientan o dan codazos al alumno, pero tal vez no lo fuerzan, manipulan o coaccionan. Estos desequilibrios entre estudiantes y diseñadores son un espacio ideal para que los estudiosos del diseño educativo investiguen más a fondo. ¿Cuándo es aceptable que un diseñador educativo utilice estrategias furtivas, codazos, regañes u otras estrategias para animar sutilmente a los alumnos a hacer cosas que de otro modo no harían? ⁷ ¿Cómo se utiliza el conocimiento del diseñador sobre las condiciones de aprendizaje, los perfiles de los alumnos y la psicología humana para crear espacios más transparentes en los que la autonomía y la emancipación emerjan como valores fundamentales inscritos? ¿Qué compromisos tienen los diseñadores educativos para negociar las complejas tensiones entre las diferentes partes interesadas y qué valores deberían ser fundamentales en la praxis del diseño educativo?

Conclusión

En este capítulo, he descrito dos viñetas que revelan las tensiones éticas en el diseño de experiencias educativas, identificando oportunidades para que conjuntos de valores contrapuestos se articulen y utilicen para tomar decisiones de diseño apropiadas y centradas en la ética. Aprovechando estas viñetas, afirmo que los educadores, estudiantes y profesionales del diseño educativo deberían prestar atención a la naturaleza cargada de valores del trabajo de diseño, aumentando su conciencia de cómo las acciones de un diseñador siempre influyen en la ética como parte central del contexto del diseño. Dado que este es el caso, los diseñadores deberían prestar atención a los valores como un medio clave para hacer y discutir su trabajo de diseño.

Referencias

Adams, J. S., Tashchian, A. y Shore, T. H. (2001). Los códigos de ética como señales de comportamiento ético. Revista de ética empresarial, 29 (3), 199—211. https://doi.org/10.1023/A:1026576421399

Ames, M. G. (2019). La máquina del carisma: la vida, la muerte y el legado de un portátil por niño. Prensa del MIT. https://play.google.com/store/books/details?id=v4y5DwAAQBAJ

Andrejevic, M. y Selwyn, N. (2020). La tecnología de reconocimiento facial en las escuelas: preguntas e inquietudes críticas. Aprendizaje, medios y tecnología, 45 (2), 115—128. https://doi.org/10.1080/17439884.2020.1686014

Arpaci, I., Kilicer, K. y Bardakci, S. (2015). Efectos de los problemas de seguridad y privacidad en el uso educativo de los servicios en la nube. Las computadoras en el comportamiento humano, 45, 93—98. https://doi.org/10.1016/j.chb.2014.11.075

Barrett, L. F., Adolphs, R., Marsella, S., Martínez, A. M. y Pollak, S. D. (2019). Reconsideración de las expresiones emocionales: desafíos para inferir emociones a partir de los movimientos faciales humanos. La ciencia psicológica en el interés público, 20 (1), 1—68. https://doi.org/10.1177/1529100619832930

Boling, E., Gray, C. M. y Smith, K. M. (2020, agosto). Educar para el carácter diseñador en la educación superior: desafíos de la pedagogía de estudio. Actas de la Sociedad de Investigación del Diseño. https://doi.org/10.21606/drs.2020.120

Buwert, P. (junio de 2018). Examinando los códigos profesionales de las organizaciones de diseño. Actas de la Sociedad de Investigación del Diseño. https://doi.org/10.21606/dma.2017.493

Castelli, F. R. y Sarvary, M. A. (2021). Por qué los estudiantes no encienden sus cámaras de vídeo durante las clases en línea y un plan equitativo e inclusivo para alentarlos a hacerlo. Ecología y evolución, 11 (8), 3565—3576. https://doi.org/10.1002/ece3.7123

Chivukula, S. S., Li, Z., Pivonka, A. C., Chen, J. y Gray, C. M. (2021). Examinando el panorama de los métodos de diseño centrados en la ética. arXiv. http://arxiv.org/abs/2102.08909

Chivukula, S. S., Watkins, C. R., Manocha, R., Chen, J. y Gray, C. M. (2020). Dimensiones de la práctica de la experiencia de usuario que dan forma a la conciencia ética. Actas de la Conferencia CHI de 2020 sobre los factores humanos en los sistemas informáticos, págs. 1—13. https://doi.org/10.1145/3313831.3376459

Costanza-Chock, S. (2020). Justicia en el diseño: prácticas lideradas por la comunidad para construir los mundos que necesitamos. Prensa del MIT. https://play.google.com/store/books/details?id=h4LPDwAAQBAJ

Dixon, B. S. (2020). Dewey y el diseño. Springer International Publishing. https://doi.org/10.1007/978-3-030-47471-3

Durkheim, E. (2012). Educación moral. Corporación Courier. https://play.google.com/store/books/details?id=R-2nCgAAQBAJ

Flanagan, M. y Nissenbaum, H. (2014). Los valores entran en juego en los juegos digitales. Prensa del MIT. https://market.android.com/details?id=book-iIYRBAAAQBAJ

Friedman, B. y Hendry, D. G. (2019). Diseño sensible a los valores: dar forma a la tecnología con imaginación moral . MIT Press. https://market.android.com/details?id=book-C4FruwEACAAJ

Friedman, B. y Kahn, P.H., Jr. (2003). Valores humanos, ética y diseño. En J. A. Jacko & A. Sears (Eds.), El manual de interacción humano-computadora (págs. 1223-1248). Lawrence Erlbaum Associates. https://content.taylorfrancis.com/books/e/download?dac=C2009-0-12021-5&isbn=9781410615862&doi=10.1201/9781410615862-81&format=pdf

Garland, K. (1964). Lo primero es el manifiesto. El diseño es historia. http://www.designishistory.com/1960/first-things-first/

Gonzales, A. L., McCrory Calarco, J. y Lynch, T. (2020). Problemas tecnológicos y brechas en el rendimiento de los estudiantes: una validación y extensión del concepto de mantenimiento de la tecnología. Investigación en comunicación, 47 (5), 750—770. https://doi.org/10.1177/0093650218796366

Gray, C. M. y Boling, E. (2016). Inscribir la ética y los valores en los diseños para el aprendizaje: una problemática. Investigación y desarrollo de tecnologías educativas, 64 (5), 969—1001. https://doi.org/10.1007/s11423-016-9478-x

Gray, C.M., Chen, J., Chivukula, S. S. y Qu, L. (2021). Los usuarios finales describen patrones oscuros como manipulación de fieltro. Actas de la ACM sobre la interacción humano-computadora, 5. https://doi.org/10.1145/3479516

Gray, C.M., y Chivukula, S.S. (2019). La mediación ética en la práctica de la experiencia de usuario. Actas de la conferencia CHI de 2019 sobre los factores humanos en los sistemas informáticos, págs. 1—11. https://doi.org/10.1145/3290605.3300408

Gray, C. M., Chivukula, S. S. y Lee, A. (2020). ¿Qué tipo de trabajo crean los "diseñadores imbéciles"? Describir las propiedades que son motivo de preocupación ética en Reddit. Actas de la conferencia ACM sobre diseño de sistemas interactivos de 2020, págs. 61—73. https://doi.org/10.1145/3357236.3395486

Gray, C. M., Chivukula, S. S., Melkey, K. y Manocha, R. (2021). Comprender las funciones "oscuras" del diseño en la educación informática. Actas de la 17ª Conferencia de la ACM sobre investigación internacional en educación informática. https://doi.org/10.1145/3446871.3469754

Gray, C. M., Dagli, C., Demiral-Uzan, M., Ergulec, F., Tan, V., Altuwaijri, A. A., Gyabak, K., Hilligoss, M., Kizilboga, R., Tomita, K. y Boling, E. (2015). Juicio y diseño didáctico: cómo trabajan en la práctica los profesionales de la identificación. Mejora del rendimiento trimestral, 28 (3), 25—49. https://doi.org/10.1002/piq.21198

Gray, C. M., Kou, Y., Battles, B., Hoggatt, J. y Toombs, A. L. (2018). El lado oscuro (patrones) del diseño de experiencia de usuario. Actas de la conferencia CHI de 2018 sobre los factores humanos en los sistemas informáticos, 534:1 — 534:14. https://doi.org/10.1145/3173574.3174108

Gray, C. M., Parsons, P. y Toombs, A. L. (2020). Construir una identidad de diseño holística a través de la educación integrada en el estudio. En B. Hokanson, G. Clinton, A. A. Tawfik, A. Grincewicz y M. Schmidt (editores), La tecnología educativa más allá del contenido: un nuevo enfoque para el aprendizaje (págs. 43-55). Springer International Publishing. https://doi.org/10.1007/978-3-030-37254-5_4

Gunawan, J., Pradeep, A., Choffnes, D., Hartzog, W. y Wilson, C. (2021). Un estudio comparativo de los patrones oscuros en las modalidades web y móvil. Actas de la ACM sobre la interacción humano-computadora, 5 (CSCW2), págs. 1—29. https://doi.org/10.1145/3479521

Halberstam, J. (1993). Ética cotidiana: soluciones inspiradoras para dilemas de la vida real. Libros de pingüinos.

Harwell, D. (12 de noviembre de 2020). Las empresas de detección de trampas ganaron millones durante la pandemia. Ahora los estudiantes se están defendiendo. El Washington Post. https://www.washingtonpost.com/technology/2020/11/12/test-monitoring-student-revolt/

Hodges, C., Moore, S., Lockee, B., Trust, T., Bond, A. y otros. (2020). La diferencia entre la enseñanza remota de emergencia y el aprendizaje en línea. Revisión de Educause, 27, 1—12.

Kaye, K. (17 de abril de 2022). Intel cree que su IA sabe lo que piensan y sienten los estudiantes en clase. Protocolo. https://www.protocol.com/enterprise/emotion-ai-school-intel-edutech

Mathur, A., Kshirsagar, M. y Mayer, J. (2021). ¿Qué hace que un patrón oscuro sea... oscuro? Atributos del diseño, consideraciones normativas y métodos de medición. Actas de la Conferencia CHI de 2021 sobre los factores humanos en los sistemas informáticos, págs. 1—18. https://doi.org/10.1145/3411764.3445610

Moore, S. (2021). Los modelos de diseño que tenemos no son los modelos de diseño que necesitamos. Revista de diseño educativo aplicado, 10 (4). https://edtechbooks.org/jaid_10_4/the_design_models_we

Mothwa, L., Tapamo, J.-R., y Mapati, T. (2018). Modelo conceptual del sistema inteligente de monitoreo de asistencia mediante visión artificial. 14a Conferencia internacional sobre tecnología de señal e imagen y sistemas basados en Internet (SITIS) de 2018, 229—234. https://doi.org/10.1109/SITIS.2018.00042

Nucci, L. (2006). Educación para el desarrollo moral. En Handbook of moral development (págs. 675—700). Psychology Press. https://www.taylorfrancis.com/chapters/edit/10.4324/9781410615336-36/education-moral-development-larry-nucci

Papanek, V. J. (1971). Diseño para el mundo real; ecología humana y cambio social. Libros Bantam.

Schön, D. A. (1984). Problemas, marcos y perspectivas del diseño. Estudios de diseño, 5 (3), 132—136. https://doi.org/10.1016/0142-694X(84)90002-4

Shilton, K. (2013). Palancas de valores: incorporar la ética al diseño. Ciencia, tecnología y valores humanos, 38 (3), 374—397. https://doi.org/10.1177/0162243912436985

Shilton, K. (2018). Involucrar valores a pesar de la neutralidad: desafíos y enfoques para la reflexión sobre los valores durante el diseño de la infraestructura de Internet. Ciencia, tecnología y valores humanos, 43 (2). https://doi.org/10.1177/0162243917714869

Simon, H. A. (1996). Las ciencias de lo artificial. Prensa del MIT.

Smith, K. M. y Boling, E. (2009). ¿Qué hacemos con el diseño? El diseño como concepto en la tecnología educativa. Investigación y desarrollo de tecnologías educativas, 49 (4), 3—17.

Snyder, B. R. (1970). El currículo oculto. MIT Press. https://philpapers.org/rec/SNYTHC

Steen, M. (2015). Al abrir la caja negra y encontrarla llena: explorando la ética en las prácticas de diseño. Ciencia, tecnología y valores humanos, 40 (3), 389—420. https://doi.org/10.1177/0162243914547645

Stolterman, E. (2008). La naturaleza de la práctica del diseño y sus implicaciones para la investigación del diseño de interacciones. Revista Internacional de Diseño, 2 (1), 55—65. https://doi.org/10.1016/j.phymed.2007.09.005

Svihla, V., Chen, Y. y Kang, S. "píldora" (2022). Un enfoque basado en el conocimiento para desarrollar las habilidades de los estudiantes de ingeniería para formular problemas de diseño. Revista de educación en ingeniería. https://doi.org/10.1002/jee.20445

Verbeek, P.-P. (2006). Materializar la moralidad: ética del diseño y mediación tecnológica. En Ciencia, tecnología y valores humanos (vol. 31, págs. 361—380). https://doi.org/10.1177/0162243905285847

Vickers, S. G. (1984). Sentencia. En los documentos de The Vickers (págs. 230 a 245). Harper & Row.

Volpi, C. (2020). Revela la conciencia: una herramienta de educación en diseño para descubrir el plan de estudios oculto [tesis de maestría, Universidad Tecnológica de Delft]. https://repository.tudelft.nl/islandora/object/uuid:2bfc57e9-9bfb-4440-9cfe-daaba5b219c9

Warschauer, M. y Ames, M. (2010). ¿Puede un ordenador portátil por niño salvar a los pobres del mundo? Revista de Asuntos Internacionales, 64 (1), 33—51. http://www.jstor.org/stable/24385184

Willis, A.-M. (2006). Diseño ontológico. Artículos de filosofía del diseño, 4 (2), 69—92. https://doi.org/10.2752/144871306X13966268131514

Yeaman, A.R.J., Koetting, J.R. y Nichols, R.G. (1994). La teoría crítica, el análisis cultural y la ética de la tecnología educativa como responsabilidad social. Tecnología educativa, 34 (2), 5—13. https://www.jstor.org/stable/44428138

Zaletelj, J. y Košir, A. (2017). Predecir la atención de los estudiantes en el aula a partir de los rasgos faciales y corporales de Kinect. Revista EURASIP sobre procesamiento de imágenes y vídeos, 2017 (1), págs. 1—12. https://doi.org/10.1186/s13640-017-0228-8

Zeng, H., Shu, X., Wang, Y., Wang, Y., Zhang, L., Pong, T.-C., y Qu, H. (2021). EmotionCues: resumen visual orientado a las emociones de los vídeos del aula. Transacciones del IEEE sobre visualización y gráficos por computadora, 27 (7), 3168—3181. https://doi.org/10.1109/TVCG.2019.2963659

Notas a pie de página

¹ https://www.class.com/

² Por ejemplo, consulte los problemas de equidad que surgieron en relación con las políticas de "cámara puesta" durante la pandemia, que dejaron a algunos estudiantes con una capacidad limitada para expresar sus preferencias de privacidad (Castelli y Sarvary, 2021)

³ Véase (Friedman y Kahn, 2003) para una discusión más profunda sobre los valores humanos, incluida la forma en que los valores se convierten en parte del tejido de las interacciones de los diseñadores a través de posiciones encarnadas, exógenas e interaccionales.

⁴ Muchas de estas creencias fueron discutidas y defendidas por los educadores durante la pandemia en el grupo de Facebook "Pedagogía de la pandemia", que en el momento de escribir este artículo cuenta con más de 32.000 miembros.

⁵ pasos originales de Glaser sobre el "camino al infierno", junto con interpretaciones contemporáneas para diseñadores de productos digitales, están disponibles en https://dropbox.design/article/the-new-12-steps-on-the-road-to-product-design-hell.

⁶ Como ejemplo clásico en el contexto de las tecnologías educativas, consideremos el legado problemático de la iniciativa "Un ordenador portátil por niño" (Ames, 2019; Warschauer y Ames, 2010).

⁷ Véase (Gray, Chivukula, et al., 2021) para obtener una descripción de las funciones engañosas que los diseñadores pueden asumir cuando intentan resolver las tensiones entre la agencia del usuario y los objetivos de diseño.