Lo siguiente describe cómo ClassDojo utiliza la IA en las funciones que se usan en casa (no relacionadas con el uso escolar) por padres o niños. Para obtener información sobre cómo se usan los datos en las herramientas de IA de ClassDojo en relación con el uso escolar, consulte aquí. Para obtener información sobre cómo ClassDojo utiliza herramientas de IA únicamente para sus fines internos (p. ej., para la seguridad de las cuentas de usuarios que no son niños o para fines de Confianza y Seguridad) o para fines de atención al cliente (“Dojo AI Internal Tools”), consulte nuestras Preguntas frecuentes.
Introducción
ClassDojo está comprometido con la mejora continua de nuestra plataforma para ofrecer la mejor experiencia de aprendizaje posible a los padres y a sus hijos. En pos de este objetivo, nos entusiasma incorporar la tecnología de inteligencia artificial (“AI”) en el servicio de ClassDojo para padres y niños cuando usan ClassDojo fuera del aula (el “Servicio”). ClassDojo se ha asociado con proveedores de modelos de lenguaje a gran escala (LLM) proveedores de servicios OpenAI y Anthropic (“LLM Service Providers”) para lanzar herramientas de IA destinadas a mejorar la calidad y la eficiencia de nuestro servicio de ClassDojo y a satisfacer las necesidades tanto de los padres para ayudar a sus hijos en casa como de sus hijos para mejorar su aprendizaje y otras actividades.
Nuestras funciones innovadoras ayudan a los padres a saber cómo ayudar a sus hijos en casa, desde herramientas para ayudar a los niños a hacer los deberes, asesoramiento inteligente para enseñarles a leer, hasta herramientas para responder directamente a las preguntas de los padres sobre el aprendizaje y el desarrollo. Ofrecemos estas herramientas para proporcionar experiencias de aprendizaje y contenidos más inteligentes y atractivos, entre otras ventajas. En particular, estas nuevas y emocionantes herramientas permitirán:
- ayudar a los padres a ayudar a sus hijos con los deberes y otros objetivos de aprendizaje, incluidas guías mejoradas con IA para ayudarles a orientar a su hijo o a ponerse al día en la materia por su cuenta;
- Responder directamente a las preguntas de los padres sobre aprendizaje y desarrollo;
- ayuda a los niños a aprender a leer mediante una serie de lecciones interactivas, guiadas por Sparky, su propio entrenador de lectura.
Con estas mejoras de IA, padres, niños y familias se beneficiarán de una experiencia educativa más interactiva, atractiva y receptiva.
Nuestro compromiso
Entendemos la importancia de garantizar sólidas protecciones de privacidad y seguridad para los padres y las madres y sus hijos a medida que integramos nuevas tecnologías de IA en rápida evolución, y queremos asegurarle que trataremos sus datos y los de su hijo con el máximo cuidado y responsabilidad. Como parte de nuestro compromiso continuo con la transparencia y la responsabilidad en el manejo de sus datos, le proporcionamos la siguiente información sobre nuestras nuevas herramientas de IA de ClassDojo para padres y madres y niños, así como las opciones que tiene con respecto a ellas. Además, ClassDojo apoya los Principles for AI in Education de la industria de tecnología educativa para garantizar un uso seguro y responsable de los datos en la tecnología de IA. ClassDojo participó activamente en el desarrollo de los Principles como miembro del AI Education Steering Committee. Al alinearnos con estos principios, buscamos aprovechar el poder de la tecnología de IA para enriquecer la experiencia de aprendizaje de todos nuestros usuarios, manteniendo los más altos estándares de privacidad, seguridad y conducta ética. Lea más sobre los Principles for AI in Education aquí, que tienen por objeto orientar el desarrollo de una IA responsable que satisfaga las necesidades de alumnos, alumnas, educadores y familias. ClassDojo también es miembro de la EdSAFE AI Industry Council y apoya los principios del SAFE Framework- Seguridad, Responsabilidad, Equidad & Eficacia en la IA.
Como parte de nuestros compromisos, ClassDojo no permite que ningún proveedor de servicios de IA de terceros (por ejemplo, OpenAI o Anthropic) que pueda utilizar para prestar el Servicio use información alguna (información personal o desidentificada) para entrenar, mejorar o desarrollar sus sistemas de IA. ClassDojo tampoco utiliza ninguna información personal de los niños contenida en ningún Input, Prompt u Output para entrenar ninguno de los sistemas de IA de ClassDojo.
Este artículo cubre:
- Cómo ClassDojo utiliza herramientas de IA para padres y niños
- ¿Qué información se utiliza para ofrecer herramientas de IA para padres y para niños?
- ¿Cómo utiliza ClassDojo la información para proporcionar las herramientas de IA para padres y para niños?
- Cómo trabajamos con proveedores de servicios de confianza para ofrecer herramientas de IA para padres y niños
- ¿Cómo pueden los padres optar por no participar?
- ¿Qué medidas de seguridad aplicamos en las herramientas de IA para madres y padres y en las herramientas de IA para niños?
- Limitaciones de las herramientas de IA de ClassDojo para madres y padres y para niños
Cómo ClassDojo utiliza herramientas de IA para padres y niños
Herramientas de IA para padres y madres
Los padres y las madres pueden optar por utilizar ciertas herramientas o funciones de IA para el hogar (por ejemplo, Homework Helper o Family Sidekick) al interactuar activamente con una de nuestras herramientas de IA diseñadas para padres y madres dentro del Servicio (“Herramientas de IA para padres y madres”). El padre o la madre proporcionará o cargará cierto contenido (por ejemplo, un padre o una madre puede subir imágenes de fichas de ejercicios o preguntas sobre el desarrollo infantil) (“Input”) en las Herramientas de IA para padres y madres para ayudar a orientar los deberes de su hijo. Estas Herramientas de IA para padres y madres no están pensadas para ser utilizadas por niños (ni deben ser utilizadas por ellos). Los padres y las madres pueden optar por proporcionar Inputs que pueden contener la información personal de su hijo y también pueden incluir fotos o videos.
ClassDojo proporcionará entonces un conjunto de instrucciones o “prompts” (por ejemplo, “buscar ejercicios adicionales de matemáticas de primer curso relacionados con esta ficha de ejercicios”) (“Prompts") en la herramienta proporcionada por IA y luego enviará tanto el Input como los Prompts a los proveedores de servicios de LLM integrados, ya sea OpenAI o Anthropic. Estos proveedores de servicios de LLM realizan entonces ciertas funciones relacionadas con la IA sobre el Input para producir respuestas generadas por IA basadas en el Input llamadas “Output”. El Output es devuelto luego a ClassDojo por los proveedores de servicios de LLM. ClassDojo toma entonces este Output y se lo presenta al padre o a la madre en los Servicios para que pueda revisarlo. Los datos de Input, Prompt y Output procesados por el LLM Service Provider se retienen solo de forma transitoria para proporcionar el Servicio y para fines de confianza y seguridad; luego son eliminados por el LLM Service Provider inmediatamente después de la creación de los Outputs.
Herramientas de IA para niños
Los niños pueden usar ciertas funciones de nuestro Servicio (como nuestra función “aprender a leer”) que utilizan o integran IA para ayudar a acompañar o guiar al niño en sus actividades en ClassDojo (“Herramientas de IA para niños”). La Herramienta de IA para niños puede utilizar la información personal recopilada de su hijo mientras interactúa con la Herramienta de IA para niños (también denominada Input). Más información sobre estas Herramientas de IA para niños se ofrece a continuación.
Dojo Sparks
Grabaciones de audio para lecciones de lectura
Leer en voz alta es una parte esencial y basada en la investigación del proceso de aprendizaje de la lectura. Para que ClassDojo construya una experiencia significativa y totalmente autodirigida de alfabetización inicial, necesitamos la capacidad de “escuchar” a los estudiantes leer, comprender lo que se dijo y proporcionar retroalimentación. Esto nos permite corregir, animar y enseñar a su hijo a leer letras, palabras y oraciones. En los cursos iniciales (Kinder) esto es a nivel de fonemas (“mmm”) y palabras cortas (“map”). En cursos superiores, trataríamos de comprender la fluidez en la lectura en voz alta (precisión, automaticidad y prosodia/expresión) en oraciones y párrafos. Por tanto, es esencial que contemos con reconocimiento automático de voz (“ASR”) en nuestra herramienta. En relación con el ASR, con el consentimiento de los padres, grabamos y recopilamos la voz de su hijo/a (grabación de voz) a través del micrófono de su dispositivo (p. ej., iPad o Chromebook). Si el dispositivo muestra que se está grabando audio, el indicador estará encendido.
¿Cómo incorporamos el ASR?
- Procesamiento de ClassDojo: El habla (grabación de voz) se recopila desde el dispositivo de su hijo por parte de ClassDojo (se maneja de forma segura y se elimina como se indica a continuación) (“Audio de la lección de lectura del niño”).
- Procesamiento por terceros: El audio (grabación de voz) o el Audio de la Lección de Lectura del niño, junto con identificadores desidentificados, es enviado por ClassDojo para ser procesado por un proveedor de servicios de terceros evaluado (SpeechSuper) para ASR que cumple con nuestros requisitos de privacidad y seguridad de datos y que tiene un Anexo de Protección de Datos firmado con ClassDojo. El análisis ASR realizado por SpeechSuper se envía luego de vuelta a ClassDojo (“ASR Audio”).
- Procesamiento por terceros: Además, con consentimiento parental, enviaremos el audio de la lección de lectura del niño con solo el nombre de pila de su hijo a un proveedor de servicios de LLM integrado para determinados usos de IA, tal como se indica a continuación.
Una vez que recibimos de nuestro proveedor externo de servicios, SpeechSuper, el análisis ASR de la grabación de voz, tanto la grabación de voz como el análisis ASR se eliminarían de sus servidores (se conservarían solo de forma transitoria). ClassDojo conservaría por separado el Audio de la Lección de Lectura Infantil (p. ej., la grabación de voz inicial recopilada del dispositivo de su hijo/a) para prestar el Servicio, incluidos los usos de IA mencionados a continuación, hasta que la cuenta de su hijo/a quede inactiva. También conservaremos el análisis ASR y los metadatos relacionados que nos envíe SpeechSuper, de forma desidentificada, para utilizarlos con el fin de mejorar nuestro propio ASR interno.
Sparky
Interacciones para el Asistente de Aprendizaje de IA
ClassDojo puede usar las interacciones con Dojo Sparks y el Audio de la Lección de Lectura Infantil recopilado en relación con las lecciones de lectura (sin ningún análisis ASR ni Audio ASR) para determinadas perspectivas de IA y servicios de IA proporcionados a su hijo/a, según se indica a continuación. Además, al interactuar con nuestro asistente digital animado de aprendizaje con IA, “Sparky”, en nuestros Servicios (“Asistente de Aprendizaje de IA”), su hijo/a puede grabar únicamente sus respuestas en audio a las preguntas de Sparky (p. ej., “¿Cuál es tu color favorito?” “¿Cómo te sientes?”) o puede responder eligiendo determinadas respuestas predefinidas por ClassDojo basadas en texto. Con el consentimiento de los padres, ClassDojo grabará las respuestas de su hijo/a y recopilará la voz de su hijo/a (grabación de voz) a través del micrófono de su dispositivo (p. ej., iPad o Chromebook) (“Audio del Asistente de Aprendizaje Infantil”), así como cualquier respuesta basada en texto o cualquier acción “clicable” realizada por su hijo/a para seleccionar una respuesta o interactuar con un juego (“Entrada Infantil Basada en Texto”). Si el dispositivo muestra que se está grabando audio, el indicador estará encendido. ClassDojo también recopilará información sobre las interacciones de su hijo/a con el Asistente de Aprendizaje de IA (p. ej., qué juegos o lecciones se han completado a través de las Herramientas de IA Infantiles. Además, ClassDojo o los Proveedores de Servicios LLM pueden extraer inferencias a partir de las interacciones de su hijo/a con las Herramientas de IA Infantiles. Son inferencias que ClassDojo o los Proveedores de Servicios LLM extraen del Audio de la Lección de Lectura Infantil, del Audio del Asistente de Aprendizaje Infantil o de la Entrada Infantil Basada en Texto (p. ej., el niño mencionó que le gusta el béisbol; la reenviamos como entrada a los Proveedores de Servicios LLM para personalizar la siguiente interacción del niño con el Asistente de Aprendizaje de IA “Sparky”) (“Inferencias de IA Infantil”).
Perspectivas de IA sobre el Audio de la Lección de Lectura Infantil, el Audio del Asistente de Aprendizaje Infantil y la Entrada Infantil Basada en Texto
ClassDojo obtiene el consentimiento de los padres antes de permitir cualquier procesamiento de IA sobre la información personal de los niños (o la divulgación de cualquier información personal de los niños a cualquier proveedor de servicios para llevar a cabo dicho procesamiento). ClassDojo utiliza Proveedores de Servicios LLM integrados para realizar ciertas funciones relacionadas con la IA sobre el Audio de la Lección de Lectura Infantil, el Audio del Asistente de Aprendizaje Infantil, la Entrada Infantil Basada en Texto, las Inferencias de IA Infantil, así como sobre la información adicional limitada, no identificativa y basada en texto indicada en la tabla siguiente (p. ej., solo el nombre de pila) (“Información No Identificativa Basada en Texto”) con el fin de obtener perspectivas generadas por IA sobre las lecciones de lectura y la interacción de su hijo/a con nuestro asistente animado de aprendizaje con IA “Sparky”. Las diversas funciones relacionadas con la IA realizadas sobre el Audio de la Lección de Lectura Infantil, el Audio del Asistente de Aprendizaje Infantil, la Entrada Infantil Basada en Texto, las Inferencias de IA Infantil y la Información No Identificativa Basada en Texto se llevan a cabo mediante instrucciones indicadas por ClassDojo, o “prompts”, dirigidas a los Proveedores de Servicios LLM (p. ej., “en función de la entrada, genera la siguiente lección de lectura para el niño”). ClassDojo crea una conexión con los Proveedores de Servicios LLM para enviar en tiempo real audio y otros datos a los Proveedores de Servicios LLM. El Audio de la Lección de Lectura Infantil, el Audio del Asistente de Aprendizaje, la Entrada Infantil Basada en Texto, las Inferencias de IA Infantil y la Información No Identificativa Basada en Texto se envían a los Proveedores de Servicios LLM de forma que no identifiquen al niño (a menos que el niño haya dicho su nombre completo durante una sesión de lectura grabada o lo haya incluido en su Entrada Infantil Basada en Texto). Los Proveedores de Servicios LLM procesan entonces el Audio de la Lección de Lectura Infantil, el Audio del Asistente de Aprendizaje, las Inferencias de IA Infantil, la Entrada Infantil Basada en Texto y la Información No Identificativa Basada en Texto (Entradas), así como los Prompts, y generan un resultado o una salida basados en esas Entradas y Prompts. Los proveedores de servicios LLM devuelven el resultado u Output a ClassDojo, que a su vez presenta el Output al niño en tiempo real (por ejemplo, a través de nuestro asistente de aprendizaje con IA animado “Sparky”, que presenta actividades adicionales de comprensión lectora). Los datos de Input, Prompt y Output procesados por los proveedores de servicios LLM se conservan solo temporalmente para prestar el Servicio y por motivos de confianza y seguridad; después, se eliminan inmediatamente tras la creación de los Outputs.
Qué información se utiliza para proporcionar las herramientas de IA para padres y las herramientas de IA para niños
Para ofrecer estas nuevas herramientas de IA para padres y para niños, ClassDojo utiliza la siguiente información:
- Entradas de madres y padres, que incluyen imágenes de fichas de ejercicios y preguntas generales de crianza sobre el desarrollo infantil.
- Entradas generadas a partir de la información recopilada de los niños que usan Dojo Sparks, que incluyen grabaciones de audio y entradas de texto del niño mientras realizan lecciones interactivas de lectura o interactúan con Sparky como asistente de aprendizaje con IA.
- Prompts o instrucciones de ClassDojo, como “Encuentra ejercicios adicionales de matemáticas de primer curso relacionados con esta ficha de ejercicios” o “Mi hijo necesita ayuda adicional con el entrenamiento para ir al baño, encuéntrame recursos” o “Cuenta un chiste al final de la lección de Dojo Sparks”.
- Resultados que incluyen sugerencias de texto generadas por IA, interacciones animadas con niños y preguntas adicionales.
Toda la información de las herramientas de IA para padres y las herramientas de IA para niños proporcionada a los proveedores de servicios LLM se transmite de forma segura a dichos proveedores para su procesamiento, se almacena de manera transitoria en los Estados Unidos y se cifra tanto en tránsito como en reposo. Nuestras políticas de retención de datos garantizan que los Inputs, los Prompts y los Outputs sean eliminados por los proveedores de servicios LLM después del procesamiento, y que los Outputs conservados por ClassDojo estén protegidos y almacenados de forma segura de acuerdo con las políticas vigentes de ClassDojo.
Los siguientes cuadros proporcionan más detalles sobre la información utilizada para ofrecer las distintas herramientas de IA para padres y las herramientas de IA para niños (desglosadas en herramientas de IA para padres y herramientas de IA para niños), así como sobre los procesos o “Prompts” realizados sobre los “Inputs” para obtener el resultado u “Output”. Actualizaremos estos cuadros a medida que actualicemos nuestras funciones para proporcionarle la información necesaria 1) para que usted pueda tomar una decisión informada sobre si usar o no las herramientas de IA para padres; o 2) para proporcionar a los padres información adicional y solicitar el consentimiento parental previsto por la Ley de Protección de la Privacidad Infantil en Línea y sus normas de desarrollo contempladas en la Regla de Protección de la Privacidad Infantil en Línea (colectivamente “COPPA”) para cualquier información personal adicional de niños que se utilice en relación con las herramientas de IA para niños.
Herramientas de IA para padres y madres
| Herramientas de IA para padres de ClassDojo y procesamiento realizado en las Entradas | Información del usuario utilizada para prestar las herramientas de IA (Entradas) | Salida generada* | Tipos de usuario de los que se recopila la Entrada y a quienes se informa la Salida | Cómo se proporciona esta información al LLM | Periodo de retención / almacenamiento / seguridad |
|
Ayudante educativo y de deberes Una herramienta que procesa varios formatos de imagen (por ejemplo, JPG, PDF) que contienen hojas de trabajo educativas. La herramienta Ayudante educativo y de deberes sugiere consejos sobre cómo ayudar a su hijo según la ficha de ejercicios que se haya subido. El padre puede revisar la Salida antes de usarla con su hijo.
|
Fotos de hojas de trabajo educativas tomadas por padres Los metadatos incluyen el formato del archivo subido y el contexto de procesamiento. Prompt proporcionado por ClassDojo que no contendrá ninguna información personal del usuario (p. ej., “Generar ejercicios adicionales”). ClassDojo también instruirá al LLM para que no devuelva ningún resultado si detecta que no es una hoja de trabajo educativa. Además, ClassDojo utiliza herramientas para ayudar en las pruebas de seguridad, así como para establecer salvaguardas en las indicaciones basadas en texto, en las entradas y en los resultados para fines de confianza y seguridad (para detectar contenido dañino y otras preocupaciones éticas). |
Consejos de texto generados por IA sobre cómo ayudar a su hijo con la tarea según la hoja de trabajo cargada |
– Entrada recopilada de los padres — Resultado divulgado a madres y padres, quienes pueden revisarlo y decidir utilizarlo con su hijo |
Las imágenes de entrada de los padres, junto con cualquier Indicación de ClassDojo, se envían de manera segura por ClassDojo a OpenAI y Anthropic para su procesamiento. |
Periodo de retención
Salidas (texto generado por IA):
Almacenamiento – Todos los datos se almacenan en los Estados Unidos. Seguridad – Todas las entradas y salidas están cifradas en tránsito y en reposo. |
|
Asistente familiar Una herramienta que procesa preguntas de texto de los padres. La herramienta Family Sidekick sugiere consejos sobre cómo ayudar a su hijo en función de las preguntas de texto. El padre puede revisar la Salida antes de usarla con su hijo. |
Preguntas generales de texto de los padres sobre el desarrollo infantil (por ejemplo: «dame artículos sobre el entrenamiento para ir al baño»). Prompt proporcionado por ClassDojo que no contendrá ninguna información personal del usuario (p. ej., “Generar una respuesta a la pregunta del padre o la madre”). ClassDojo también instruirá al LLM para que responda adecuadamente (p. ej., no devolver un resultado, escalar, etc.) si detecta que se trata de una pregunta que podría causar daño físico, mental o emocional a un niño. Además, ClassDojo utiliza herramientas para ayudar en las pruebas de seguridad, así como para establecer salvaguardas en las indicaciones basadas en texto, en las entradas y en los resultados para fines de confianza y seguridad (para detectar contenido dañino y otras preocupaciones éticas). |
Respuestas y recursos generados por IA para responder a las preguntas del padre o la madre |
– Entrada recopilada de los padres – Salida revelada a los padres, quienes pueden revisarla y decidir usarla con sus hijos |
Las entradas de texto de los padres, junto con cualquier indicación de ClassDojo, se transmiten de forma segura por ClassDojo a OpenAI y Anthropic para su procesamiento. |
Periodo de retención
Salidas (texto generado por IA):
Almacenamiento – Todos los datos se almacenan en los Estados Unidos. Seguridad – Todas las entradas y salidas están cifradas en tránsito y en reposo |
* El procesamiento/Indicaciones y Salidas listados son solo ejemplos y no pretenden reflejar el lenguaje exacto que se utilizará.
Herramientas de IA para niños
| Herramientas de IA para padres de ClassDojo y procesamiento realizado en las Entradas | Información del usuario utilizada para prestar las herramientas de IA (Entradas) | Salida generada* | Tipos de usuario de los que se recopila la Entrada y a quienes se informa la Salida | Cómo se proporciona esta información al LLM | Periodo de retención / almacenamiento / seguridad |
|
Funciones interactivas de comprensión lectora Una herramienta dentro de nuestra función de comprensión lectora que procesa diversas grabaciones de audio y entradas de texto de un niño que contienen respuestas a lecciones de lectura e interacciones con el Asistente de Aprendizaje con IA, con el fin de generar interacciones en tiempo real con el niño que ayudarán a personalizar su experiencia en la aplicación. Algunos ejemplos son: 1) Sparky dirigiéndose al niño por su nombre y haciendo referencia a una conversación o lección anterior; 2) cambiar las lecciones o la dificultad para ajustarlas mejor a las necesidades de aprendizaje del niño; o 3) modificar las lecciones para hacerlas más atractivas, p. ej., convertir una pregunta de lectura en una sobre dinosaurios o hadas. El resultado es interactivo en tiempo real; no hay revisión humana en la entrega inicial del resultado. Sin embargo, ClassDojo utiliza herramientas para ayudar en las pruebas de seguridad, así como para establecer salvaguardas en las indicaciones, entradas y salidas basadas en texto por motivos de confianza y seguridad (para detectar contenido dañino y otras preocupaciones éticas). Además, ClassDojo realiza pruebas periódicas automatizadas y revisiones humanas para garantizar la seguridad del resultado) |
- Audio de las lecciones de lectura del niño (grabaciones de audio de las lecciones de lectura (actuales, así como de lecciones completadas anteriormente), incluyendo audio de las interacciones con el Asistente de Aprendizaje con IA, “Sparky.” durante las lecciones de lectura). *Tenga en cuenta que el Audio de las lecciones de lectura del niño puede contener información identificativa si su hijo la proporciona en el audio - Transcripciones en texto de audios previos (Estas son transcripciones en formato de texto generadas a partir del Audio de las lecciones de lectura previas de su hijo que se enviarán a los proveedores del servicio LLM). -Información en texto no identificativa (proporcionada por ClassDojo, p. ej., solo el primer nombre del niño) -Metadatos (incluye el formato de archivo subido y el contexto de procesamiento). -Otras interacciones con Dojo Sparks (p. ej., qué juegos o lecciones se han completado) - Lecciones de audio proporcionadas por ClassDojo (p. ej., "di la letra 'a'") -Prompt proporcionado por ClassDojo, que no contendrá ninguna información personal del usuario (p. ej., «Cuenta un chiste».) ClassDojo también instruirá al LLM para que no devuelva resultados inapropiados para menores y utiliza herramientas para ayudar en las pruebas de seguridad, así como para imponer salvaguardas en Prompts, entradas y salidas basadas en texto por motivos de confianza y seguridad (para detectar contenido dañino y otras preocupaciones éticas). |
– Respuestas interactivas generadas por IA en tiempo real del asistente de aprendizaje con IA, Sparky, dirigidas a su hijo (p. ej., para que Sparky pueda hacer referencia a algo de una conversación o lección anterior o contar un chiste). Esta salida puede contener información personal del niño - Transcripción en texto de las interacciones entre Sparky y su hijo que se reenviarán a los proveedores de servicios de LLM |
– Entradas recopiladas de los niños mediante las grabaciones de audio de las lecciones de lectura y su interacción con el asistente de aprendizaje con IA, «Sparky» – Salida divulgada en tiempo real a los niños (sin revisión humana previa, pero ClassDojo realiza pruebas periódicas automatizadas y con revisión humana para garantizar la seguridad de la salida). Las transcripciones en texto del audio previo se divulgan a los proveedores de servicios de LLM y son conservadas por ClassDojo. |
Entradas de audio de las lecciones de lectura del niño, transcripciones en texto del audio previo, información textual no identificativa (p. ej., solo el nombre de pila), audio proporcionado por ClassDojo, junto con cualquier Prompt de ClassDojo, son transmitidos de forma segura por ClassDojo a OpenAI y Anthropic para su procesamiento. |
Período de retención Audio de las lecciones de lectura del niño:
Entradas y Prompts (Entradas del niño y entradas de ClassDojo y Prompts de ClassDojo)
Salidas (audio generado por IA):
Almacenamiento – Todos los datos se almacenan en los Estados Unidos. Seguridad – Todas las entradas y salidas están cifradas en tránsito y en reposo. |
|
«Sala de Sparky» Funciones interactivas limitadas de IA con el asistente de aprendizaje con IA Una herramienta dentro de un área específica (p. ej., «habitación») con la que un niño puede interactuar y que procesa varias grabaciones de audio y entradas de texto del niño que contienen respuestas e interacciones con el asistente de aprendizaje con IA, con el fin de generar interacciones en tiempo real con el niño que ayudarán a personalizar la experiencia del niño en la aplicación. Los ejemplos incluyen: 1) que Sparky se dirija al niño por su nombre de pila y haga referencia a una conversación o lección anterior; 2) que Sparky interactúe con su hijo mediante ciertos juegos; 3) cambiar las lecciones o la dificultad para adaptarlas mejor a las necesidades de aprendizaje del niño; o 4) modificar las lecciones para hacerlas más atractivas, p. ej., haciendo que una pregunta de lectura trate sobre dinosaurios o hadas. El resultado es interactivo en tiempo real; no hay revisión humana en la entrega inicial del resultado. Sin embargo, ClassDojo utiliza herramientas para ayudar en las pruebas de seguridad, así como para establecer salvaguardas en las indicaciones, entradas y salidas basadas en texto por motivos de confianza y seguridad (para detectar contenido dañino y otras preocupaciones éticas). Además, ClassDojo realiza periódicamente pruebas de revisión automatizadas y humanas para garantizar la seguridad del Output). |
- Audio de las lecciones de lectura del niño (grabaciones de audio de las lecciones de lectura (actuales, así como de lecciones completadas anteriormente), incluyendo audio de las interacciones con el Asistente de Aprendizaje con IA, “Sparky.” durante las lecciones de lectura). - Audio del asistente de aprendizaje infantil (grabación de audio de las interacciones del niño con el asistente de aprendizaje de IA, “Sparky”, que se utiliza en todos los Servicios de ClassDojo). *Tenga en cuenta que el Audio de la lección de lectura del niño y el Audio del asistente de aprendizaje infantil pueden contener información identificativa si su hijo la proporciona en el audio. - Transcripciones en texto de audios previos (Estas son transcripciones en formato de texto generadas a partir del Audio de las lecciones de lectura previas de su hijo que se enviarán a los proveedores del servicio LLM). -Entrada de texto del niño (respuestas basadas en texto o acciones "en las que se hace clic" realizadas por su hijo mientras interactúa con las Herramientas de IA para niños) -Inferencias de IA del niño (inferencias que ClassDojo o los Proveedores de Servicios LLM extraen del audio de la lección de lectura del niño, del audio del asistente de aprendizaje infantil o de la entrada de texto del niño (por ejemplo, si el niño menciona que le gusta el béisbol, usamos esta información como Input para los Proveedores de Servicios LLM a fin de personalizar la próxima interacción del niño con el asistente de aprendizaje de IA “Sparky”). -Información basada en texto no identificativa (p. ej., solo el nombre de pila del niño) -Metadatos (incluye el formato de archivo subido y el contexto de procesamiento). -Otras interacciones con Dojo Sparks (p. ej., qué juegos o lecciones se han completado) - Lecciones de audio proporcionadas por ClassDojo (p. ej., "di la letra 'a'") -Prompt proporcionado por ClassDojo, que no contendrá ninguna información personal del usuario (p. ej., “Reconoce la experiencia del niño con la lección, hazle una pregunta sobre la lección actual y juega un breve juego de palabras sobre lo que ha aprendido”.) ClassDojo también instruirá al LLM para que no devuelva resultados inapropiados para niños y utiliza herramientas para ayudar con las pruebas de seguridad y establecer salvaguardas en los Prompts, Input y Outputs basados en texto por motivos de confianza y seguridad (para detectar contenido dañino y otras preocupaciones éticas). |
–Respuestas interactivas generadas por IA en tiempo real, así como juegos interactivos del asistente de aprendizaje de IA, Sparky, para su hijo (p. ej., para que Sparky pueda hacer referencia a algo de una conversación o lección anterior, interactuar con su hijo para jugar o contar un chiste). Este Output puede contener información personal del niño - Transcripción en texto de las interacciones entre Sparky y su hijo que se reenviarán a los proveedores de servicios de LLM |
– Entradas recopiladas de los niños mediante las grabaciones de audio de las lecciones de lectura y su interacción con el asistente de aprendizaje con IA, «Sparky» – Salida divulgada en tiempo real a los niños (sin revisión humana previa, pero ClassDojo realiza pruebas periódicas automatizadas y con revisión humana para garantizar la seguridad de la salida). Las transcripciones en texto del audio previo se comunican a los Proveedores de Servicios LLM. |
Audio de la lección de lectura del niño, Audio del asistente de aprendizaje infantil, transcripciones en texto del audio anterior, inferencias de IA del niño, información basada en texto no identificativa (p. ej., solo el nombre de pila), audio proporcionado por ClassDojo, junto con cualquier Prompt de ClassDojo, son transmitidos de forma segura por ClassDojo a OpenAI y Anthropic para su procesamiento. |
Período de retención Audio de las lecciones de lectura del niño:
Entradas y Prompts (Entradas del niño y entradas de ClassDojo y Prompts de ClassDojo)
Salidas (audio generado por IA):
Almacenamiento – Todos los datos se almacenan en los Estados Unidos. Seguridad – Todas las entradas y salidas están cifradas en tránsito y en reposo. |
¿Cómo utiliza ClassDojo la información para proporcionar las herramientas de IA para padres y para niños?
Herramientas de IA para padres y madres
Los padres proporcionarán a la Herramienta de IA para padres de ClassDojo Inputs, como imágenes de fichas de ejercicios educativas o preguntas sobre el desarrollo infantil. Además, ClassDojo proporcionará un conjunto de instrucciones o "Indicaciones". ClassDojo enviará entonces tanto el Input como los Prompts a un Proveedor de Servicios LLM integrado (p. ej., OpenAI o Anthropic) para realizar ciertas funciones relacionadas con IA sobre el Input con el fin de producir respuestas generadas por IA sobre el Input denominadas “Output”. Para proteger la privacidad de los usuarios, ClassDojo no comparte de otro modo ningún identificador directo de niños con el Proveedor de Servicios LLM (excepto en la medida en la que un padre haya incluido identificadores directos dentro de la Entrada proporcionada por el padre). Las Herramientas de IA para padres no están destinadas a (y no deben) ser usadas por niños.
Los datos obtenidos de los Inputs, Prompts y Outputs pueden ser consultados, procesados y utilizados por ClassDojo para proporcionar, mejorar (según lo permitido por la ley) y mantener el Servicio, hacer cumplir nuestras políticas, realizar análisis internos (incluido proporcionar métricas y registros de datos o registros de actividad necesarios para medir el tiempo de actividad/inactividad y depurar las herramientas) y mantener nuestra plataforma segura y protegida. Por ejemplo, los Inputs y los Prompts se enviarán al Proveedor de Servicios LLM para crear consejos de texto generados por IA sobre cómo ayudar a su hijo con sus deberes. Para obtener más información sobre los “Inputs” y los “Prompts” utilizados para generar los insights de IA, la información compartida con el Proveedor de Servicios LLM y el uso de IA por parte de ClassDojo, consulte nuestra tabla anterior.
Herramientas de IA para niños
En relación con la interacción y el uso de las Herramientas de IA para niños, los niños proporcionarán cierta información como se indica más arriba que puede contener su información personal. ClassDojo utiliza el Audio de la lección de lectura del niño, el Audio del asistente de aprendizaje infantil, las Inferencias de IA del niño, la Entrada de texto del niño y la Información basada en texto no identificativa como “Inputs” para generar insights y respuestas de IA en tiempo real mediante el uso de Proveedores de Servicios LLM integrados, en relación con las Herramientas de IA para niños. Bajo la dirección e instrucciones específicas de ClassDojo, los Proveedores de Servicios LLM realizarán ciertas funciones relacionadas con la IA sobre el Audio de la lección de lectura del niño, el Audio del asistente de aprendizaje infantil, las Inferencias de IA del niño, la Entrada de texto del niño y la Información basada en texto no identificativa con el fin de obtener ciertos insights generados por IA, por ejemplo, sobre las interacciones de su hijo con nuestro asistente de aprendizaje de IA durante sus lecciones de comprensión lectora para producir los Outputs de IA. Las distintas tareas relacionadas con la IA se realizan mediante instrucciones de ClassDojo o “Prompts” que se envían a los proveedores de servicios LLM (por ejemplo, “Reconocer la experiencia del niño con la lección, hacer una pregunta sobre su lección actual y jugar un breve juego de palabras sobre lo que ha aprendido”). ClassDojo envía tanto el Input como los Prompts a un proveedor integrado de servicios LLM (por ejemplo, OpenAI o Anthropic), para que realice determinadas funciones relacionadas con la IA sobre el Input y produzca respuestas generadas por IA sobre el mismo, denominadas “Output”. Para proteger la privacidad de los usuarios, ClassDojo no comparte identificadores directos de los niños (excepto en la medida en que el propio niño haya incluido identificadores directos en su Child Reading Lesson Audio, en su Child Learning Assistant Audio o en su Text-Based Child Input).
Los datos obtenidos de los AI Outputs, del Child Reading Lesson Audio, del Child Learning Assistant Audio, de las Child AI Inferences, del Text-Based Child Input y de la Non-Identifying Text-Based Information pueden ser accedidos, procesados y utilizados por ClassDojo para proporcionar, mejorar (según lo permitido por la ley) y mantener el Servicio, personalizar las experiencias de los usuarios, hacer cumplir nuestras políticas, realizar análisis internos (incluyendo proporcionar métricas y registros de datos o registros de actividad necesarios para medir el tiempo de actividad/inactividad y depurar las herramientas) y mantener nuestra plataforma segura y protegida. Por ejemplo, el Child Reading Lesson Audio se enviará a los proveedores de servicios LLM para crear respuestas interactivas generadas por IA en tiempo real, así como juegos interactivos del asistente de aprendizaje con IA, Sparky, para su hijo (por ejemplo, para que Sparky pueda referirse a algo de una conversación o lección anterior, interactuar con su hijo para jugar o contar un chiste). Para más información sobre los “Inputs” y “Prompts” usados para generar los conocimientos de IA, la información compartida con los proveedores de servicios LLM y el uso que hace ClassDojo de las Child AI Tools, consulte nuestra tabla anterior.
Herramientas de IA para padres y para niños
ClassDojo no utiliza ninguna información personal de los niños contenida en cualquiera de los Inputs (incluyendo el Child Reading Lesson Audio, Child Learning Assistant Audio, Child AI Inferences y Text-Based Child Input), Prompts u Output para entrenar cualquiera de los sistemas de IA de ClassDojo. ClassDojo solo entrenará nuestros sistemas de IA con datos de niños que hayan sido desidentificados de manera que no sean rastreables a ningún usuario de ClassDojo. Además, ClassDojo no permite que un proveedor de servicios LLM ni ningún proveedor de servicios de IA que pueda utilizar utilice ninguna información (información personal o de-identified) para entrenar, mejorar o desarrollar sus sistemas de IA. Este compromiso incluye la información contenida en la tabla anterior, como las Entradas proporcionadas por los padres, utilizadas para producir las Salidas de IA.
Los datos de su hijo (o sus datos si usted es el padre o la madre) utilizados para proporcionar los “Inputs” (p. ej., el Child Reading Lesson Audio, el Child Learning Assistant Audio, las Child AI Inferences o el Text-Based Child Input) solo serán retenidos de forma transitoria por los LLM Service Providers para proporcionar el Servicio a ClassDojo. Para garantizar esto, ClassDojo ha suscrito un contrato específico tanto con Anthropic como con OpenAI para la “zero data retention” de las Herramientas de IA para padres y las Herramientas de IA para niños de ClassDojo mencionadas anteriormente. Esto significa que las Indicaciones, Entradas y Salidas (a) no serán registradas para revisión humana por OpenAI o Anthropic y (b) no se guardarán ni serán conservadas por OpenAI o Anthropic. Tenga en cuenta, sin embargo, que OpenAI y Anthropic pueden realizar revisiones automáticas de las Entradas e Indicaciones con fines de seguridad (“Clasificadores de Seguridad”), los cuales únicamente consistirán en metadatos (incluidos tipos de clasificador, fechas, recuentos y puntajes de confianza) y no incluirán ninguna Entrada, Indicación ni Salida en sí misma (incluyendo resúmenes de Indicaciones, Entradas o Salidas) ni ninguna parte de ellos. OpenAI y Anthropic pueden retener los Clasificadores de Seguridad.
Cómo trabajamos con proveedores de servicios de confianza para ofrecer herramientas de IA para padres y niños
Para ofrecer estas Herramientas de IA para padres y Herramientas de IA para niños en la plataforma ClassDojo, ClassDojo trabaja con proveedores de confianza, OpenAI y Anthropic. Al colaborar con estos proveedores de terceros proveedores de servicios, ClassDojo sigue comprometida a mantener nuestros valores de transparencia, responsabilidad, equidad y seguridad en el uso de los datos de los usuarios en la tecnología de IA.
¿Cómo pueden los padres optar por no participar?
Herramientas de IA para padres y madres
El uso de las Herramientas de IA para padres por parte de los padres es completamente opcional. Nuestras Herramientas de IA para padres no se ofrecen directamente para que las usen niños menores de trece (13) años, y pedimos que dichas personas no proporcionen información personal (y usted, como padre o madre, acepta dichas limitaciones); por ello, no obtenemos el COPPA consent en relación con las Herramientas de IA para padres. Además, no recopilamos conscientemente (ni permitimos conscientemente que ningún tercero recopile) ni conservamos información personal de ninguna persona menor de 13 años en relación con nuestras Herramientas de IA para padres. Si nos enteramos de que un menor de 13 años nos ha proporcionado información personal o de que se ha recogido información personal de un menor de 13 años en relación con las Herramientas de IA para padres, eliminaremos esta información lo antes posible de nuestros archivos. Si usted es el padre, la madre o el tutor legal de un niño menor de 13 años y cree que dicho niño ha proporcionado información personal a ClassDojo en relación con las Herramientas de IA para padres, envíe un correo electrónico a ClassDojo a privacy@classdojo.com para que se elimine la información de ese niño.
Herramientas de IA para niños
Si usted, como padre o madre o tutor que previamente dio su consentimiento para que la información personal de su hijo se utilizara en relación con las Child AI Tools de ClassDojo, desea en cualquier momento impedir su uso posterior, tiene derecho a optar por que ClassDojo deje de usar el Child Reading Lesson Audio, el Child Learning Assistant Audio, las Child AI Inferences, el Text-Based Child Input u otra información personal del niño para su uso en las Child AI Tools, indicándonos que eliminemos el Child Reading Lesson Audio, Child Learning Assistant Audio, Child AI Inferences, Text-Based Child Input u otra información personal de su hijo. Además, puede solicitar la eliminación de cualquier información personal contenida en el Output de IA generado a partir de este Input. Tenga en cuenta que una solicitud para eliminar información puede afectar la capacidad de su hijo para acceder a los Servicios o utilizar ciertas funciones. Para ejercer este derecho de eliminación, contáctenos en privacy@classdojo.com o 735 Tehama Street, San Francisco, CA 94103. Tenga en cuenta que, para proteger la privacidad y la seguridad de los niños, tomamos medidas razonables para verificar la identidad del padre, madre o tutor legal antes de facilitar el acceso a cualquier información personal de su hijo. Para obtener más información sobre cómo ejercer sus derechos, visite la “Opciones parentales” sección de la Política de privacidad infantil de ClassDojo.
¿Qué medidas de seguridad aplicamos en las herramientas de IA para madres y padres y en las herramientas de IA para niños?
Herramientas de IA para niños
ClassDojo está comprometida con ofrecer oportunidades de aprendizaje éticas, imparciales y equitativas para los niños como parte de su compromiso con el SAFE Framework de EdSafe. Como parte de este compromiso, ClassDojo incluirá instrucciones de seguridad en sus Prompts dirigidos a los proveedores de servicios LLM, indicando que no deben devolver resultados inapropiados para niños, y revisará periódicamente la calidad de los datos de Output que se utilizan en el Servicio, con el fin de vigilar el contenido o los consejos dañinos o peligrosos y cualquier sesgo inadvertido, utilizando guías aplicables como las de UNICEF y CDC. ClassDojo utiliza herramientas para ayudar en las pruebas de seguridad, así como para establecer salvaguardas en los Prompts, Inputs y Outputs basados en texto para garantizar la confianza y la seguridad (para detectar contenido o consejos dañinos o peligrosos y otras preocupaciones éticas). Además, ClassDojo realiza pruebas periódicas de revisión automatizada y humana para garantizar la seguridad del Output. Para las interacciones en tiempo real con nuestras Herramientas de IA para niños, si no hay revisión humana antes de la entrega inicial del Output, ClassDojo supervisa y toma medidas lo antes posible, tal como se indicó anteriormente.
Para garantizar que los niños sepan que están interactuando con IA, ClassDojo muestra un aviso dentro del propio producto para informarles que la herramienta o función que están usando incluye IA. Los niños también pueden reportar cualquier contenido inapropiado que pueda aparecer en un Output mientras usan la propia Herramienta de IA para niños.
Los padres también podrán eliminar cualquiera de los Inputs de su hijo (p. ej., de audio o de texto) y tanto los Inputs como los Outputs se eliminarán una vez que la cuenta del niño esté inactiva, a menos que la ley nos obligue a conservarlos.
Herramientas de IA para padres y madres
ClassDojo emplea muchas de las mismas medidas de seguridad que utiliza en las Herramientas de IA para niños mencionadas anteriormente para supervisar las indicaciones, los Inputs y los Outputs en sus Herramientas de IA para padres. Además, ClassDojo instruirá a los Proveedores de servicios LLM para que (i) respondan de forma adecuada (p. ej., no devolver ningún resultado, escalar la consulta, etc.) si el Proveedor de servicios LLM detecta que el padre o la madre ha introducido una pregunta en la Herramienta de IA para padres que pueda causar daño físico, mental o emocional a un niño y (ii) no devuelvan ningún resultado si detectan que el padre o la madre ha subido una imagen o un documento que no sea una ficha de ejercicios al utilizar la Herramienta de IA para padres de ayuda con los deberes y apoyo educativo.
La mayoría de nuestras Herramientas de IA para padres no son interactivas en “tiempo real”, lo que permite a los padres revisar el Output antes de usarlo con su hijo. Los padres también podrán eliminar cualquiera de sus Inputs y tanto los Inputs como los Outputs se eliminarán una vez que la cuenta parental esté inactiva, a menos que la ley nos obligue a conservarlos.
Limitaciones de las herramientas de IA de ClassDojo para madres y padres y para niños
Si bien estas Herramientas de IA para padres y las Herramientas de IA para niños mencionadas anteriormente están diseñadas para apoyar y enriquecer el aprendizaje, es crucial reconocer que el contenido y las soluciones generados por IA que ofrece nuestra plataforma no son perfectos y se basan en los datos con los que se ha entrenado la IA y están limitados a dichos datos. Como resultado, puede haber casos en los que las salidas de la IA no capten por completo los matices de un problema nuevo o complejo, lo que puede dar lugar a inexactitudes, información incorrecta o confusa, o malas interpretaciones.
Dado que se confía en la IA para adaptar contenido educativo y proporcionar asistencia inmediata, recomendamos que los padres evalúen críticamente la orientación de la IA y verifiquen su exactitud, especialmente cuando se trate de materias complejas o avanzadas, y se ha proporcionado la posibilidad de que los padres revisen los distintos análisis de IA o “Salidas” antes de utilizarlos con sus hijos. Para nuestras Herramientas de IA para niños, en las que puede no haber revisión humana para las respuestas e interacciones “en tiempo real”, ClassDojo utiliza pruebas de seguridad tanto manuales como automáticas para aumentar de forma proactiva la confianza en la seguridad de los Outputs. ClassDojo está comprometido a reducir las limitaciones de la IA centrándose en el desarrollo responsable de esta tecnología. Esto incluye garantizar que nuestras Herramientas de IA para padres y las Herramientas de IA para niños estén diseñadas con la privacidad, la seguridad, la inclusión, la confianza y la protección como principios fundamentales. Nuestro enfoque para integrar la IA en herramientas educativas refleja nuestra dedicación a proporcionar un entorno de aprendizaje de apoyo, efectivo y respetuoso para todos los usuarios.
Cómo ponerse en contacto con nosotros
Si tiene alguna pregunta sobre el uso de IA por parte de ClassDojo, nuestras prácticas de privacidad o seguridad en el manejo de su información, o por cualquier otro motivo, por favor contáctenos por correo electrónico a privacy@classdojo.com.
También puede escribirnos a la siguiente dirección:
A la atención de: Chief Privacy Officer
ClassDojo
735 Tehama Street
San Francisco, California, 94103
United States of America.