Ce qui suit décrit comment ClassDojo utilise l'IA pour des fonctionnalités utilisées à la maison (et non dans le cadre scolaire) par les parents ou les enfants. Pour en savoir plus sur la manière dont les données sont utilisées dans les outils d'IA de ClassDojo dans le cadre scolaire, voir ici. Pour en savoir plus sur la manière dont ClassDojo utilise les outils d'IA uniquement à des fins internes (p. ex. pour la sécurité des comptes non liés à des enfants ou pour des raisons de Trust and Safety) ou à des fins de service client (« Dojo AI Internal Tools »), veuillez consulter notre FAQ.
Introduction
ClassDojo s'engage à améliorer continuellement notre plateforme afin d'offrir la meilleure expérience d'apprentissage possible à nos parents et à leurs enfants. Dans cette optique, nous sommes ravis d'introduire la technologie d'intelligence artificielle (« AI ») dans le service ClassDojo destiné aux parents et aux enfants lorsqu'ils utilisent ClassDojo en dehors de la classe (le « Service »). ClassDojo s'est associé à des fournisseurs de grands modèles de langage (LLM), OpenAI et Anthropic (« LLM Service Providers ») pour lancer des outils d'IA visant à améliorer la qualité et l'efficacité de notre service ClassDojo, et à répondre aux besoins de nos parents pour les aider à accompagner leurs enfants à la maison, ainsi qu'à ceux des enfants afin d'améliorer leur apprentissage et d'autres activités.
Nos fonctionnalités innovantes aident les parents à accompagner leurs enfants à la maison - des outils pour les aider à faire leurs devoirs, un accompagnement intelligent pour aider les enfants à apprendre à lire, et des outils pour répondre directement aux questions des parents sur l'apprentissage et le développement. Nous proposons ces outils afin d'offrir un apprentissage et des contenus plus intelligents, plus attrayants, et bien plus encore. Notamment, ces nouveaux outils permettront :
- aider les parents à accompagner leurs enfants pour leurs devoirs et autres objectifs d'apprentissage, y compris des guides enrichis par l'IA pour les aider à encadrer leur enfant ou à se remettre eux-mêmes à niveau sur un sujet ;
- Répondre directement aux questions des parents concernant l'apprentissage et le développement ;
- aider les enfants à apprendre à lire à travers une série de leçons interactives, guidées par Sparky, leur coach de lecture personnel.
Grâce à ces améliorations alimentées par l'IA, les parents, les enfants et les familles bénéficieront d'une expérience éducative plus interactive, engageante et réactive.
Notre engagement
Nous comprenons l’importance de garantir de solides protections en matière de confidentialité et de sécurité pour les parents et leurs enfants à mesure que nous intégrons de nouvelles technologies d’IA en évolution rapide, et nous tenons à vous assurer que nous traiterons vos données et celles de votre enfant avec le plus grand soin et la plus grande responsabilité. Dans le cadre de notre engagement continu en faveur de la transparence et de la responsabilité dans le traitement de vos données, nous vous fournissons les informations suivantes sur nos nouveaux outils d’IA ClassDojo pour les parents et les enfants, ainsi que sur les choix dont vous disposez à leur sujet. De plus, ClassDojo soutient les Principes pour l'IA en éducation de l'industrie des technologies éducatives afin d'assurer une utilisation sûre et responsable des données dans la technologie d'IA. ClassDojo a participé activement au développement de ces Principes en tant que membre de l'AI Education Steering Committee. En nous alignant sur ces principes, nous cherchons à tirer parti de la puissance de l’IA pour enrichir l’expérience d’apprentissage de tous nos utilisateurs tout en respectant les normes les plus élevées en matière de confidentialité, de sécurité et de conduite éthique. En savoir plus ici sur les Principes pour l’IA dans l’éducation, qui visent à guider le développement par le secteur d’une IA responsable répondant aux besoins des élèves, des enseignants et des familles. ClassDojo est également membre de l'EdSAFE AI Industry Council et soutient les principes du SAFE Framework- Sécurité, responsabilité, équité & efficacité dans l'IA.
Dans le cadre de ses engagements, ClassDojo n’autorise aucun fournisseur de services tiers d’IA (par ex. OpenAI ou Anthropic) auquel il pourrait faire appel pour fournir le Service à utiliser des informations (renseignements personnels ou données désidentifiées) pour entraîner, améliorer ou développer ses systèmes d’IA. ClassDojo n’utilise pas non plus les renseignements personnels d’enfants contenus dans tout Input, Prompt ou Output pour entraîner les systèmes d’IA de ClassDojo.
Cet article couvre :
- Comment ClassDojo utilise les outils d'IA pour les parents et les enfants
- Quelles informations sont utilisées pour fournir les outils d'IA pour les parents et les outils d'IA pour les enfants ?
- Comment ClassDojo utilise les informations pour fournir les outils d'IA destinés aux parents et aux enfants ?
- Comment nous collaborons avec des fournisseurs de services de confiance pour proposer des outils d'IA destinés aux parents et aux enfants
- Comment les parents peuvent-ils refuser ?
- Quelles mesures de sécurité appliquons‑nous dans les outils d'IA pour les parents et dans les outils d'IA pour les enfants ?
- Limites des outils d'IA pour les parents et des outils d'IA pour enfants de ClassDojo
Comment ClassDojo utilise les outils d'IA pour les parents et les enfants
Outils d’IA pour parents
Les parents peuvent choisir d’utiliser certains outils ou certaines fonctionnalités d’IA à domicile (par ex. Homework Helper ou Family Sidekick) en interagissant activement avec l’un de nos outils d’IA conçus pour les parents dans le Service («Outils d’IA pour parents»). Le parent fournira ou téléversera certains contenus (par ex. un parent peut téléverser des images de feuilles de travail ou poser des questions sur le développement de l’enfant) («Input») dans les Outils d’IA pour parents afin d’aider son enfant dans ses devoirs. Ces outils d’IA pour parents ne sont pas destinés à être utilisés (et ne doivent pas l’être) par des enfants. Les parents peuvent choisir de fournir des Inputs susceptibles de contenir les informations personnelles de leur enfant et pouvant également inclure des photos ou des vidéos.
ClassDojo fournira alors un ensemble d’instructions ou de «prompts» (par ex. «trouver des exercices supplémentaires de mathématiques de premier niveau scolaire liés à cette feuille de travail») («Prompts») dans l’outil alimenté par l’IA et enverra ensuite à la fois l’Input et les Prompts aux fournisseurs de services LLM intégrés, soit OpenAI ou Anthropic. Ces fournisseurs de services LLM exécutent ensuite certaines fonctions liées à l’IA sur l’Input afin de produire des réponses générées par l’IA sur l’Input appelées «Output». L’Output est ensuite renvoyé à ClassDojo par les fournisseurs de services LLM. ClassDojo prend ensuite cet Output et le présente au parent dans les Services afin qu’il puisse l’examiner. Les données Input, Prompt et Output traitées par le fournisseur de services LLM sont conservées uniquement de manière transitoire pour fournir le Service et à des fins de confiance et de sécurité ; puis supprimées par le fournisseur de services LLM immédiatement après la création des Outputs.
Outils d’IA pour enfants
Les enfants peuvent utiliser certaines fonctionnalités de notre Service (comme notre fonctionnalité «apprendre à lire») qui utilisent ou intègrent l’IA pour mieux accompagner ou guider l’enfant dans ses activités sur ClassDojo («Outils d’IA pour enfants»). L’outil d’IA pour enfants peut utiliser des renseignements personnels recueillis auprès de votre enfant pendant qu’il utilise l’outil d’IA pour enfants (également désignés comme l’«Input»). De plus amples informations sur ces outils d’IA pour enfants sont exposées ci‑dessous.
Dojo Sparks
Enregistrements audio pour les leçons de lecture
Lire à voix haute est une composante essentielle, fondée sur la recherche, du processus d’apprentissage de la lecture. Pour que ClassDojo puisse créer une expérience significative, entièrement autonome, d’apprentissage fondamental de la lecture, nous devons être en mesure d’«écouter» les apprenants lire, de comprendre ce qui a été dit et de fournir un retour. Cela nous permet de corriger, d’encourager et d’apprendre à votre enfant à lire des lettres, des mots et des phrases. Dans les premiers niveaux scolaires (maternelle), cela se situe au niveau des phonèmes («mmm») et des mots courts («map»). Dans les niveaux scolaires plus avancés, nous chercherions à comprendre la fluidité de la lecture orale (précision, automaticité et prosodie/expression) à travers des phrases et des paragraphes. Il est donc essentiel que notre outil intègre la reconnaissance automatique de la parole (« ASR »). Dans le cadre de l’ASR, avec le consentement parental, nous enregistrons et recueillons la parole de votre enfant (enregistrement vocal) au moyen du microphone de son appareil (par ex. iPad ou Chromebook). Si l’appareil indique que l’audio est en cours d’enregistrement, l’indicateur sera allumé.
Comment intégrons-nous l’ASR ?
- Traitement par ClassDojo : La parole de votre enfant (enregistrement vocal) est collectée à partir de son appareil par ClassDojo (traitée de manière sécurisée et supprimée comme indiqué ci‑dessous) («Child Reading Lesson Audio»).
- Traitement par un tiers: La parole (enregistrement vocal) ou l'audio de la leçon de lecture de l'enfant, ainsi que des identifiants dé-identifiés, sont ensuite envoyés par ClassDojo pour être traités par un prestataire de services tiers évalué (SpeechSuper) pour une reconnaissance automatique de la parole répondant à nos exigences en matière de confidentialité et de sécurité des données et ayant signé un avenant de protection des données avec ClassDojo. L'analyse ASR effectuée par SpeechSuper est ensuite renvoyée à ClassDojo (« ASR Audio »).
- Traitement par un tiers: En outre, avec le consentement parental, nous enverrons l'audio de la leçon de lecture de l'enfant avec uniquement le prénom de votre enfant à un fournisseur de services LLM intégré pour certaines utilisations liées à l'IA, comme indiqué ci‑dessous.
Une fois que nous aurons reçu de notre prestataire tiers, SpeechSuper, l’analyse ASR de l’enregistrement vocal, l’enregistrement vocal et l’analyse ASR seront supprimés de ses serveurs (et n’y seront conservés que de manière transitoire). ClassDojo conservera séparément l’audio de la leçon de lecture de l’enfant (par ex. l’enregistrement vocal initial collecté depuis l’appareil de votre enfant) afin de fournir le Service, y compris pour les usages d’IA mentionnés ci‑dessous, jusqu’à ce que le compte de votre enfant soit inactif. Nous conserverons également l’analyse ASR et les métadonnées associées que nous envoie SpeechSuper sous une forme désidentifiée afin d’améliorer notre propre ASR interne.
Sparky
Interactions avec l’assistant d’apprentissage par IA
ClassDojo peut utiliser les interactions avec Dojo Sparks et l’audio de la leçon de lecture de l’enfant recueilli dans le cadre des leçons de lecture (sans analyse ASR ni audio ASR) pour certaines analyses d’IA et certains services d’IA fournis à votre enfant, comme indiqué ci-dessous. De plus, lorsqu’il interagit avec notre assistant d’apprentissage numérique animé par IA, « Sparky », dans l’ensemble de nos Services (« assistant d’apprentissage par IA »), votre enfant peut enregistrer ses réponses données uniquement à l’oral aux questions de Sparky (par ex. « Quelle est ta couleur préférée ? » « Comment te sens‑tu ? ») ou peut répondre en choisissant certaines réponses textuelles prédéfinies (par ClassDojo). Avec le consentement parental, ClassDojo enregistrera les réponses de votre enfant et collectera la parole de votre enfant (enregistrement vocal) via le microphone de son appareil (par ex. iPad ou Chromebook) (« audio de l’enfant avec l’assistant d’apprentissage »), ainsi que toute réponse textuelle ou action « cliquable » effectuée par votre enfant pour sélectionner une réponse ou interagir avec un jeu (« entrée textuelle de l’enfant »). Si l’appareil indique que l’audio est en cours d’enregistrement, l’indicateur sera allumé. ClassDojo collectera également des informations sur les interactions de votre enfant avec l’assistant d’apprentissage par IA (par ex. les jeux ou les leçons qui ont été terminés via les outils d’IA pour enfants. De plus, ClassDojo ou les fournisseurs de services LLM peuvent tirer des inférences à partir des interactions de votre enfant avec les outils d’IA pour enfants. Il s’agit d’inférences que ClassDojo ou les fournisseurs de services LLM tirent de l’audio de la leçon de lecture de l’enfant, de l’audio de l’enfant avec l’assistant d’apprentissage ou des entrées textuelles de l’enfant (par ex. l’enfant a indiqué qu’il aime le baseball ; nous renvoyons cette information comme entrée aux fournisseurs de services LLM afin de personnaliser la prochaine interaction de l’enfant avec l’assistant d’apprentissage par IA « Sparky ») (« inférences d’IA concernant l’enfant »).
Analyses d’IA de l’audio de la leçon de lecture de l’enfant, de l’audio de l’enfant avec l’assistant d’apprentissage et des entrées textuelles de l’enfant
ClassDojo obtient le consentement parental avant d’autoriser tout traitement par IA des informations personnelles des enfants (ou la divulgation des informations personnelles d’un enfant à un prestataire de services pour réaliser ce traitement). ClassDojo utilise des fournisseurs de services LLM intégrés pour exécuter certaines fonctions liées à l’IA sur l’audio de la leçon de lecture de l’enfant, l’audio de l’enfant avec l’assistant d’apprentissage, les entrées textuelles de l’enfant, les inférences d’IA concernant l’enfant, ainsi que sur les informations textuelles limitées et non identifiantes indiquées dans le tableau ci-dessous (par ex. prénom uniquement) (« Informations textuelles non identifiantes ») afin d’obtenir des analyses générées par l’IA sur les leçons de lecture et l’interaction de votre enfant avec notre assistant d’apprentissage par IA animé « Sparky ». Les différentes fonctions liées à l’IA effectuées sur l’audio de la leçon de lecture de l’enfant, l’audio de l’enfant avec l’assistant d’apprentissage, les entrées textuelles de l’enfant, les inférences d’IA concernant l’enfant et les informations textuelles non identifiantes sont réalisées au moyen d’instructions données par ClassDojo, ou de « prompts » adressés aux fournisseurs de services LLM (par ex., « sur la base de l’entrée, générez la prochaine leçon de lecture pour l’enfant »). ClassDojo établit une connexion avec les fournisseurs de services LLM pour envoyer en temps réel l’audio et d’autres données à ces fournisseurs. L’audio de la leçon de lecture de l’enfant, l’audio de l’enfant avec l’assistant d’apprentissage, les entrées textuelles de l’enfant, les inférences d’IA concernant l’enfant et les informations textuelles non identifiantes sont envoyés aux fournisseurs de services LLM de façon à ne pas permettre d’identifier l’enfant (sauf si l’enfant a prononcé son nom complet lors d’une session audio de lecture enregistrée ou l’a inclus dans ses entrées textuelles). Les fournisseurs de services LLM traitent ensuite l’audio des leçons de lecture de l’enfant, l’audio de l’assistant d’apprentissage, les inférences d’IA de l’enfant, les données textuelles saisies par l’enfant et les informations textuelles non identifiantes (entrées), ainsi que les prompts, puis génèrent un résultat ou une sortie sur la base de ces entrées et prompts. Les fournisseurs de services LLM renvoient le résultat ou la sortie à ClassDojo, qui présente ensuite la sortie à l’enfant en temps réel (par exemple via notre assistant d’apprentissage IA animé « Sparky » proposant des activités de compréhension de lecture supplémentaires). Les données d’entrée, de prompt et de sortie traitées par les fournisseurs de services LLM ne sont conservées que temporairement afin de fournir le Service et pour des raisons de confiance et de sécurité, puis supprimées immédiatement après la génération des sorties.
Quelles informations sont utilisées pour fournir les outils d’IA pour les parents et pour les enfants
Pour fournir ces nouveaux outils d’IA pour les parents et pour les enfants, ClassDojo utilise les informations suivantes :
- Inputs provenant des parents, y compris des images de feuilles de travail et des questions générales de parents sur le développement de leur enfant.
- Données d’entrée générées à partir des informations recueillies auprès des enfants qui utilisent Dojo Sparks, notamment des enregistrements audio et des saisies textuelles de l’enfant lorsqu’il suit des leçons de lecture interactives ou interagit avec Sparky en tant qu’assistant d’apprentissage IA.
- Prompts ou instructions de ClassDojo, tels que « Trouve des exercices supplémentaires de mathématiques du niveau scolaire de première année en lien avec cette feuille de travail » ou « Mon enfant a besoin d’une aide supplémentaire pour l’apprentissage de la propreté, trouve-moi des ressources » ou « Raconte une blague à la fin de la leçon Dojo Sparks ».
- Outputs comprenant des suggestions textuelles générées par l'IA, des interactions animées avec les enfants et des questions complémentaires.
Toutes les informations provenant des outils d’IA pour les parents et pour les enfants fournies aux fournisseurs de services LLM sont transmises de façon sécurisée aux fournisseurs de services LLM pour traitement, stockées temporairement aux États-Unis et chiffrées à la fois en transit et au repos. Nos politiques de conservation des données garantissent que les entrées, les prompts et les sorties sont supprimés par les fournisseurs de services LLM après traitement, et que les sorties conservées par ClassDojo sont protégées et stockées en toute sécurité conformément aux politiques existantes de ClassDojo.
Les tableaux suivants fournissent davantage de détails sur les informations utilisées pour fournir les différents outils d’IA pour les parents et pour les enfants (répartis entre les outils d’IA pour les parents et ceux pour les enfants), ainsi que sur les processus ou « prompts » appliqués aux « entrées » afin d’obtenir les résultats ou la « sortie ». Nous mettrons à jour ces tableaux à mesure que nous ferons évoluer nos fonctionnalités afin de vous fournir les informations nécessaires 1) pour vous permettre de prendre une décision éclairée quant à l’utilisation ou non des outils d’IA pour les parents ; ou 2) pour fournir aux parents des informations supplémentaires et demander un consentement parental supplémentaire en vertu du Children’s Online Privacy Protection Act et de ses règlements d’application prévus par la Children’s Online Privacy Protection Rule (collectivement « COPPA ») pour toute information personnelle supplémentaire concernant des enfants utilisée dans le cadre des outils d’IA pour les enfants.
Outils d’IA pour parents
| Outils IA Parents ClassDojo et traitement effectué sur les Entrées | Informations utilisateur utilisées pour fournir les Outils IA (Entrées) | Sortie générée* | Types d'utilisateurs dont l'Entrée est collectée et la Sortie communiquée | Comment ces informations sont transmises au LLM | Durée de conservation / Stockage / Sécurité |
|
Aide aux devoirs et soutien éducatif Un outil qui traite divers formats d'image (par ex. JPG, PDF) contenant des fiches d'exercices éducatives. L'outil Aide aux devoirs et soutien éducatif propose des conseils sur la façon d'aider leur enfant, en fonction de la feuille de travail téléchargée. Le parent peut examiner la Sortie avant de l'utiliser avec son enfant.
|
Photos de fiches d'exercices éducatives prises par les parents Les métadonnées comprennent le format de fichier téléchargé et le contexte de traitement. Prompt fourni par ClassDojo qui ne contiendra aucune information personnelle d'utilisateur (par exemple, « Générer des exercices supplémentaires »). ClassDojo demandera également au LLM de ne pas retourner de résultats s'il détecte qu'il ne s'agit pas d'une fiche éducative. De plus, ClassDojo utilise des outils pour aider aux tests de sécurité ainsi que pour mettre en place des garde-fous sur les Prompts, Inputs et Outputs textuels pour la confiance et la sécurité (pour tester les contenus nuisibles et d'autres préoccupations éthiques). |
Conseils textuels générés par IA sur la façon d'aider votre enfant avec ses devoirs à partir de la fiche téléchargée |
– Entrée collectée auprès des parents – L'Output est communiqué aux parents, qui peuvent le consulter et décider de l'utiliser avec leur enfant |
Les images envoyées par les parents ainsi que toute Invite ClassDojo sont transmises de manière sécurisée par ClassDojo à OpenAI et Anthropic pour traitement. |
Période de conservation
Sorties (texte généré par IA) :
Stockage – Toutes les données sont stockées aux États-Unis. Sécurité – Toutes les entrées et sorties sont chiffrées en transit et au repos. |
|
Assistant familial Un outil qui traite les questions textuelles des parents. L'outil Family Sidekick suggère des conseils pour aider leur enfant en fonction des questions textuelles. Le parent peut examiner la Sortie avant de l'utiliser avec son enfant. |
Questions générales saisies par les parents, sous forme de texte, concernant le développement de l'enfant (par ex. : « donnez-moi des articles sur l'apprentissage de la propreté »). Prompt fourni par ClassDojo qui ne contiendra aucune information personnelle d'utilisateur (par exemple, « Générer une réponse à la question du parent »). ClassDojo indiquera également au LLM de répondre de manière appropriée (par ex. : ne pas renvoyer de résultat, faire remonter la demande, etc.) s'il détecte qu'il s'agit d'une question susceptible d'entraîner un préjudice physique, mental ou émotionnel pour un enfant. De plus, ClassDojo utilise des outils pour aider aux tests de sécurité ainsi que pour mettre en place des garde-fous sur les Prompts, Inputs et Outputs textuels pour la confiance et la sécurité (pour tester les contenus nuisibles et d'autres préoccupations éthiques). |
Réponses et ressources générées par l'IA pour répondre aux questions du parent |
– Entrée collectée auprès des parents – Sortie communiquée aux parents, qui peuvent l'examiner et décider de l'utiliser avec leur enfant |
Les entrées textuelles des parents, ainsi que toutes les invites ClassDojo, sont transmises de manière sécurisée par ClassDojo à OpenAI et Anthropic pour traitement. |
Période de conservation
Sorties (texte généré par IA) :
Stockage – Toutes les données sont stockées aux États-Unis. Sécurité – Toutes les entrées et sorties sont chiffrées en transit et au repos |
* Les processus/Invites et Sorties listés sont des exemples seulement et ne reflètent pas nécessairement le libellé exact qui sera utilisé.
Outils d’IA pour enfants
| Outils IA Parents ClassDojo et traitement effectué sur les Entrées | Informations utilisateur utilisées pour fournir les Outils IA (Entrées) | Sortie générée* | Types d'utilisateurs dont l'Entrée est collectée et la Sortie communiquée | Comment ces informations sont transmises au LLM | Durée de conservation / Stockage / Sécurité |
|
Fonctionnalités interactives de compréhension en lecture Un outil intégré à notre fonctionnalité de compréhension en lecture qui traite divers enregistrements audio et saisies textuelles d'un enfant — contenant les réponses aux leçons de lecture et les interactions avec l'Assistant d'apprentissage IA — afin de générer des interactions en temps réel avec l'enfant et d'aider à personnaliser son expérience dans l'application. Parmi les exemples : 1) Sparky appelant l'enfant par son prénom et faisant référence à une conversation ou leçon antérieure ; 2) adapter les leçons ou le niveau de difficulté pour mieux répondre aux besoins d'apprentissage de l'enfant ; 3) modifier les leçons pour les rendre plus attrayantes, par ex. en proposant une question de lecture sur les dinosaures ou les fées. La sortie est interactive en temps réel, sans révision humaine lors de la diffusion initiale de la sortie. Cependant, ClassDojo utilise des outils pour aider aux tests de sécurité ainsi que pour mettre en place des garde-fous sur les invites, les entrées et les sorties textuelles, en matière de confiance et de sécurité (pour détecter le contenu nuisible et d'autres enjeux éthiques). De plus, ClassDojo effectue périodiquement des tests automatisés et des analyses humaines pour garantir la sécurité de la sortie) |
- Audio des leçons de lecture de l'enfant (enregistrements audio des leçons de lecture (des leçons en cours ainsi que des leçons précédemment complétées), y compris l'audio des interactions avec l'Assistant d'apprentissage IA, « Sparky », pendant les leçons de lecture). *Remarque : l'audio des leçons de lecture de l'enfant peut contenir des informations permettant d'identifier votre enfant si celui-ci en fournit dans l'enregistrement - Transcriptions textuelles des enregistrements audio précédents (il s'agit de transcriptions textuelles générées à partir des enregistrements audio antérieurs de votre enfant, qui seront renvoyées aux fournisseurs de services LLM). -Informations textuelles non identifiantes (fournies par ClassDojo, par ex. : uniquement le prénom de l'enfant) -Métadonnées (comprend le format du fichier téléversé et le contexte de traitement). -Autres interactions avec Dojo Sparks (par ex. quels jeux ou quelles leçons ont été complétés) - Leçons audio fournies par ClassDojo (par ex. : « dis la lettre "a" ») -ClassDojo- a fourni une invite qui ne contiendra aucune information d’utilisateur personnelle (par ex. « Raconte une blague ».) ClassDojo demandera également au LLM de ne pas renvoyer de résultats inappropriés pour les enfants et utilise outils pour aider aux tests de sécurité, ainsi que pour mettre en place des garde‑fous sur les invites, les entrées et les sorties textuelles pour la confiance et la sécurité (afin de tester les contenus nuisibles et d’autres enjeux éthiques). |
– Réponses interactives générées en temps réel par l’assistant d’apprentissage IA, Sparky, adressées à votre enfant (par ex. pour que Sparky puisse faire référence à une conversation ou une leçon antérieure, ou raconter une blague). Cette sortie peut contenir des informations personnelles sur l’enfant - Transcriptions textuelles des interactions entre Sparky et votre enfant qui seront renvoyées aux fournisseurs de services LLM |
– Données collectées auprès des enfants via les enregistrements audio des leçons de lecture et leurs interactions avec l’assistant d’apprentissage IA, « Sparky » – Sortie communiquée en temps réel aux enfants (sans révision humaine préalable, mais ClassDojo effectue périodiquement des tests d’examen automatisés et humains pour garantir la sécurité de la sortie). Les transcriptions textuelles des enregistrements audio antérieurs sont communiquées aux fournisseurs de services LLM et conservées par ClassDojo. |
Les entrées audio des leçons de lecture de l'enfant, les transcriptions textuelles des enregistrements antérieurs, les informations textuelles non identifiantes (par ex. uniquement le prénom), l’audio fourni par ClassDojo, ainsi que toutes les invites ClassDojo, sont transmis de manière sécurisée par ClassDojo à OpenAI et Anthropic pour traitement. |
Période de conservation Audio de la leçon de lecture de l’enfant:
Entrées et invites (entrées de l’enfant, entrées de ClassDojo et invites de ClassDojo)
Sorties (audio généré par l’IA) :
Stockage – Toutes les données sont stockées aux États-Unis. Sécurité – Toutes les entrées et sorties sont chiffrées en transit et au repos. |
|
« Salle de Sparky » Fonctionnalités interactives limitées de l'assistant d’apprentissage IA Un outil situé dans un espace défini (par ex. « salle ») avec lequel un enfant peut interagir, qui traite divers enregistrements audio et entrées textuelles de l’enfant contenant des réponses et des interactions avec l’assistant d’apprentissage IA afin de produire des interactions en temps réel avec l’enfant qui permettront de personnaliser son expérience sur l’application. Par exemple, cela inclut 1) Sparky s’adressant à l’enfant par son prénom et faisant référence à une conversation ou une leçon antérieure ; 2) Sparky interagissant avec votre enfant via certains jeux ; 3) Sparky changeant les leçons ou le niveau de difficulté pour mieux répondre aux besoins d’apprentissage de l’enfant, ou 4) Sparky modifiant les leçons pour les rendre plus attrayantes, par ex. en proposant une question de lecture sur les dinosaures ou les fées. La sortie est interactive en temps réel, sans révision humaine lors de la diffusion initiale de la sortie. Cependant, ClassDojo utilise des outils pour aider aux tests de sécurité ainsi que pour mettre en place des garde-fous sur les invites, les entrées et les sorties textuelles, en matière de confiance et de sécurité (pour détecter le contenu nuisible et d'autres enjeux éthiques). De plus, ClassDojo effectue périodiquement des tests, automatisés et humains, pour garantir la sécurité de l'Output). |
- Audio des leçons de lecture de l'enfant (enregistrements audio des leçons de lecture (des leçons en cours ainsi que des leçons précédemment complétées), y compris l'audio des interactions avec l'Assistant d'apprentissage IA, « Sparky », pendant les leçons de lecture). - Audio de l'assistant d'apprentissage pour enfant (enregistrement audio des interactions de l'enfant avec l'assistant d'apprentissage alimenté par l'IA, « Sparky », utilisé dans l'ensemble des services ClassDojo.) *Remarque : l'audio des leçons de lecture de l'enfant et l'audio de l'assistant d'apprentissage pour enfant peuvent contenir des informations permettant de l'identifier, si votre enfant les fournit dans l'enregistrement audio. - Transcriptions textuelles des enregistrements audio précédents (il s'agit de transcriptions textuelles générées à partir des enregistrements audio antérieurs de votre enfant, qui seront renvoyées aux fournisseurs de services LLM). -Saisie textuelle de l'enfant (réponses textuelles ou actions « cliquables » effectuées par votre enfant lors de son interaction avec les outils d'IA pour enfants) -Inférences de l'IA concernant l'enfant (inférences tirées par ClassDojo ou par les prestataires de services LLM à partir de l'audio des leçons de lecture de l'enfant, de l'audio de l'assistant d'apprentissage pour enfant ou de la saisie textuelle de l'enfant (par ex., l'enfant a dit qu'il aime le baseball ; nous renvoyons cette information comme Input aux prestataires LLM pour personnaliser la prochaine interaction de l'enfant avec l'assistant d'apprentissage IA « Sparky »)). -Informations textuelles non identifiantes (par ex. uniquement le prénom de l'enfant) -Métadonnées (comprennent le format des fichiers téléversés et le contexte de traitement). -Autres interactions avec Dojo Sparks (par ex. quels jeux ou quelles leçons ont été complétés) - Leçons audio fournies par ClassDojo (par ex. : « dis la lettre "a" ») -ClassDojo- a fourni une invite qui ne contiendra aucune information d’utilisateur personnelle (par ex. « Reconnaître l'expérience de l'enfant lors de la leçon, poser une question sur sa leçon en cours et proposer un petit jeu de mots rapide sur ce qu'il a appris ».) ClassDojo demandera également au LLM de ne pas renvoyer de résultats inappropriés pour les enfants et utilise des outils pour aider aux tests de sécurité et à la mise en place de garde-fous sur les Prompts, Inputs et Outputs textuels afin de garantir la confiance et la sécurité (pour tester les contenus nuisibles et d'autres enjeux éthiques). |
–Réponses interactives générées par l'IA en temps réel ainsi que des jeux interactifs de l'assistant d'apprentissage IA, Sparky, pour votre enfant (par ex. pour que Sparky puisse se référer à un élément d'une conversation ou d'une leçon précédente, interagir avec votre enfant pour jouer ou raconter une blague). Cet Output peut contenir des informations personnelles de l'enfant - Transcriptions textuelles des interactions entre Sparky et votre enfant qui seront renvoyées aux fournisseurs de services LLM |
– Données collectées auprès des enfants via les enregistrements audio des leçons de lecture et leurs interactions avec l’assistant d’apprentissage IA, « Sparky » – Sortie communiquée en temps réel aux enfants (sans révision humaine préalable, mais ClassDojo effectue périodiquement des tests d’examen automatisés et humains pour garantir la sécurité de la sortie). Les transcriptions textuelles de l'audio précédent sont communiquées aux prestataires de services LLM |
Audio des leçons de lecture de l'enfant, audio de l'assistant d'apprentissage pour enfant, transcriptions textuelles des enregistrements audio antérieurs, inférences de l'IA concernant l'enfant, informations textuelles non identifiantes (par ex. uniquement le prénom), audio fourni par ClassDojo, ainsi que tout Prompt fourni par ClassDojo sont transmis de manière sécurisée par ClassDojo à OpenAI et Anthropic pour traitement. |
Période de conservation Audio de la leçon de lecture de l’enfant:
Entrées et invites (entrées de l’enfant, entrées de ClassDojo et invites de ClassDojo)
Sorties (audio généré par l’IA) :
Stockage – Toutes les données sont stockées aux États-Unis. Sécurité – Toutes les entrées et sorties sont chiffrées en transit et au repos. |
Comment ClassDojo utilise les informations pour fournir les outils d'IA destinés aux parents et aux enfants ?
Outils d’IA pour parents
Les parents fourniront à l'outil IA Parent de ClassDojo des Inputs, tels que des images de feuilles de travail éducatives ou des questions sur le développement de l'enfant. En outre, ClassDojo fournira un ensemble d'instructions ou d'« Invites ». ClassDojo enverra ensuite l'Input et les Prompts à un prestataire de services LLM intégré (par ex. OpenAI ou Anthropic), afin d'exécuter certaines fonctions liées à l'IA sur l'Input pour produire des réponses générées par l'IA à partir de l'Input appelées « Output ». Pour protéger la vie privée des utilisateurs, ClassDojo ne partage aucune information d'identification directe des enfants avec le Prestataire de services LLM (sauf dans la mesure où un parent aurait inclus de telles informations dans l'Entrée soumise). Les outils IA destinés aux parents ne sont pas conçus (et ne doivent pas être) utilisés par les enfants.
Les données obtenues à partir des Inputs, des Prompts et des Outputs peuvent être consultées, traitées et utilisées par ClassDojo pour fournir, améliorer (dans la mesure permise par la loi) et maintenir le Service, faire respecter nos politiques, effectuer des analyses internes (y compris fournir des métriques, des journaux de données ou des enregistrements d'activité nécessaires pour mesurer les temps de fonctionnement et d'arrêt et déboguer les outils), et maintenir notre plateforme sûre et sécurisée. Par exemple, les Inputs et les Prompts seront envoyés au prestataire de services LLM pour créer des conseils textuels générés par l'IA sur la manière d'aider votre enfant avec ses devoirs. Pour plus d'informations sur les « Inputs » et les « Prompts » utilisés pour générer les insights IA, les informations partagées avec le prestataire de services LLM, et l'utilisation de l'IA par ClassDojo, veuillez consulter notre tableau ci‑dessus.
Outils d’IA pour enfants
Dans le cadre de l'utilisation et de l'interaction avec les outils d'IA pour enfants, les enfants fourniront certaines informations telles que décrites ci‑dessus, qui peuvent contenir leurs informations personnelles. ClassDojo utilise l'audio des leçons de lecture de l'enfant, l'audio de l'assistant d'apprentissage pour enfant, les inférences de l'IA concernant l'enfant, la saisie textuelle de l'enfant et les informations textuelles non identifiantes comme « Inputs » pour générer en temps réel des insights et des réponses générés par l'IA grâce à l'utilisation de prestataires de services LLM intégrés, dans le cadre des outils d'IA pour enfants. Sous la direction explicite de ClassDojo, les prestataires de services LLM effectueront certaines fonctions liées à l'IA sur l'audio des leçons de lecture de l'enfant, l'audio de l'assistant d'apprentissage pour enfant, les inférences de l'IA concernant l'enfant, la saisie textuelle de l'enfant et les informations textuelles non identifiantes afin d'obtenir certains insights générés par l'IA, par exemple sur les interactions de votre enfant avec notre assistant d'apprentissage IA lors de ses leçons de compréhension de lecture, et de produire les Outputs IA. Les différentes tâches liées à l'IA sont effectuées au moyen d'instructions dirigées par ClassDojo, appelées « Prompts », adressées aux LLM Service Providers (par ex. : « Reconnaître l'expérience de l'enfant concernant la leçon, poser une question sur sa leçon en cours et proposer un petit jeu de mots sur ses apprentissages »). ClassDojo envoie à un fournisseur de services LLM intégré à la fois l’« Input » et les « Prompts » (par ex. OpenAI ou Anthropic) afin d’exécuter certaines fonctions liées à l’IA sur l’Input et de produire des réponses générées par l’IA à partir de cet Input appelées « Output ». Pour protéger la vie privée des utilisateurs, ClassDojo ne communique aucune information directement identifiable concernant les enfants (sauf dans la mesure où des identifiants directs auraient été fournis par l'enfant lui-même dans son Child Reading Lesson Audio, son Child Learning Assistant Audio ou son Text-Based Child Input).
Les données obtenues à partir des AI Outputs, du Child Reading Lesson Audio, du Child Learning Assistant Audio, des Child AI Inferences, du Text-Based Child Input et des Non-Identifying Text-Based Information peuvent être consultées, traitées et utilisées par ClassDojo pour fournir, améliorer (dans la limite permise par la loi) et maintenir le Service, personnaliser l'expérience utilisateur, appliquer nos politiques, réaliser des analyses internes (y compris fournir des métriques et des journaux ou des enregistrements d'activité nécessaires pour mesurer les temps d'indisponibilité/de disponibilité et déboguer les outils), et garantir la sécurité et l'intégrité de notre plateforme. Par exemple, le Child Reading Lesson Audio sera envoyé aux LLM Service Providers afin de générer en temps réel des réponses interactives créées par l'IA ainsi que des jeux interactifs de l'AI Learning Assistant, Sparky, destinés à votre enfant (par ex. pour que Sparky puisse faire référence à un échange ou une leçon antérieurs, interagir avec votre enfant pour jouer ou raconter une blague). Pour plus d'informations sur les « Inputs » et les « Prompts » utilisés pour générer les insights IA, les informations partagées avec les LLM Service Providers et l'utilisation par ClassDojo des Child AI Tools, consultez notre tableau ci‑dessus.
Parent AI Tools et Child AI Tools
ClassDojo n'utilise aucune information personnelle concernant des enfants contenue dans des Inputs (y compris le Child Reading Lesson Audio, Child Learning Assistant Audio, Child AI Inferences et Text-Based Child Input), des Prompts ou de l'Output pour entraîner l'un des systèmes d'IA. ClassDojo n'entraînera nos AI systems qu'avec des données d'enfants qui ont été de-identified de manière à ne pas pouvoir être rattachées à un utilisateur de ClassDojo. De plus, ClassDojo n'autorise aucun LLM Service Provider ni aucun prestataire de services d'IA tiers auquel elle pourrait faire appel à utiliser des informations (personnelles ou de-identified) pour entraîner, améliorer ou développer leurs AI systems. Cet engagement couvre les informations contenues dans le tableau ci-dessus, comme les Entrées fournies par le parent, utilisées pour produire les Sorties IA.
Les données de votre enfant (ou vos données si vous êtes le parent) utilisées pour fournir les « Inputs » (par ex. le Child Reading Lesson Audio, le Child Learning Assistant Audio, les Child AI Inferences ou le Text-Based Child Input) ne seront conservées que de manière transitoire par les LLM Service Providers afin de fournir le Service à ClassDojo. Pour ce faire, ClassDojo a conclu un contrat spécifique avec Anthropic et OpenAI pour la « zero data retention » concernant les parent AI Tools et Child AI Tools de ClassDojo mentionnés ci‑dessus. Cela signifie que les Invites, Entrées et Sorties (a) ne seront pas journalisées pour révision humaine par OpenAI ou Anthropic et (b) ne seront ni enregistrées ni conservées sur disque par OpenAI ou Anthropic. Veuillez noter cependant qu'OpenAI et Anthropic peuvent effectuer un filtrage automatisé des Entrées et Invites à des fins de sécurité (« Classificateurs de Sécurité »), qui ne consisteront qu'en des métadonnées (notamment types de classificateur, dates, décomptes et scores de confiance) et n'incluront ni Entrée, ni Invite, ni Sortie elles-mêmes (y compris aucun résumé ni extrait de celles-ci ou partie de celles-ci). OpenAI et Anthropic peuvent conserver les Classificateurs de Sécurité.
Comment nous collaborons avec des fournisseurs de services de confiance pour proposer des outils d'IA destinés aux parents et aux enfants
Pour proposer ces parent AI Tools et Child AI Tools sur la plateforme ClassDojo, ClassDojo collabore avec des fournisseurs de services de confiance OpenAI et Anthropic. En travaillant avec ces tiers fournisseurs de services, ClassDojo reste engagée à respecter nos valeurs de transparence, responsabilité, équité et sécurité dans l'utilisation des données des utilisateurs au sein des technologies d'IA.
Comment les parents peuvent-ils refuser ?
Outils d’IA pour parents
L'utilisation des Outils IA Parents par les parents est entièrement facultative. Nos parent AI Tools ne sont pas proposés directement aux enfants de moins de treize (13) ans, et nous demandons à ces personnes de ne pas fournir d'informations personnelles (et vous, en tant que parent, acceptez ces limitations). Par conséquent, nous n'obtenons pas de COPPA consent en lien avec les parent AI Tools. De plus, nous ne collectons pas sciemment (ni n'autorisons sciemment un tiers à collecter) ni à conserver des informations personnelles concernant quiconque de moins de 13 ans en lien avec nos parent AI Tools. Si nous constatons qu'un enfant de moins de 13 ans nous a fourni des données personnelles ou que des données personnelles ont été collectées auprès d'un enfant de moins de 13 ans dans le cadre des Outils IA Parents, ces informations seront supprimées de nos fichiers aussi rapidement que possible. Si vous êtes le parent ou le tuteur légal d'un enfant de moins de 13 ans qui, selon vous, a fourni des informations personnelles à ClassDojo dans le cadre des Parent AI Tools, veuillez envoyer un e-mail à ClassDojo à privacy@classdojo.com afin de faire supprimer les informations de cet enfant.
Outils d’IA pour enfants
Si vous, en tant que parent ou tuteur ayant précédemment donné votre consentement à l'utilisation des informations personnelles de votre enfant en lien avec les Child AI Tools de ClassDojo, souhaitez à tout moment empêcher toute utilisation future, vous avez le droit de vous opposer à l'utilisation par ClassDojo du Child Reading Lesson Audio, du Child Learning Assistant Audio, des Child AI Inferences, du Text-Based Child Input ou de toute autre information personnelle pour les Child AI Tools en nous demandant de supprimer le Child Reading Lesson Audio, Child Learning Assistant Audio, Child AI Inferences, Text-Based Child Input ou toute autre information personnelle de votre enfant. De plus, vous pouvez demander la suppression de toute information personnelle contenue dans l'AI Output généré à partir de cet Input. Veuillez garder à l'esprit qu'une demande de suppression d'informations peut affecter la capacité de votre enfant à accéder aux Services ou à utiliser certaines fonctionnalités. Pour exercer ce droit de suppression, veuillez nous contacter à privacy@classdojo.com ou 735 Tehama Street, San Francisco, CA 94103. Veuillez noter que, afin de protéger la vie privée et la sécurité des enfants, nous prenons des mesures raisonnables pour vérifier l'identité d'un parent ou d'un tuteur légal avant de donner accès à toute information personnelle de leur enfant. Pour plus d'informations sur l'exercice de vos droits, consultez la section « Choix parentaux » de la Politique de confidentialité des enfants de ClassDojo.
Quelles mesures de sécurité appliquons‑nous dans les outils d'IA pour les parents et dans les outils d'IA pour les enfants ?
Outils d’IA pour enfants
ClassDojo s'engage à garantir des opportunités d'apprentissage éthiques, non biaisées et équitables pour les enfants dans le cadre de son adhésion au SAFE Framework d'EdSafe. Dans le cadre de cet engagement, ClassDojo inclura des consignes de sécurité dans ses Prompts destinés aux LLM Service Providers — notamment de ne pas renvoyer de résultats inappropriés pour les enfants — et examinera périodiquement la qualité des données d'Output utilisées dans le Service, notamment pour détecter des contenus ou conseils dangereux ou préjudiciables et d'éventuels biais involontaires, en s'appuyant sur des lignes directrices pertinentes comme celles de UNICEF et du CDC. ClassDojo utilise outils pour aider aux tests de sécurité ainsi que pour mettre des garde-fous sur les Prompts textuels, les Input et les Output pour des raisons de fiabilité et de sécurité (pour détecter des contenus ou conseils dangereux et d'autres enjeux éthiques). De plus, ClassDojo effectue périodiquement des tests d'examen automatisés et humains afin d'assurer la sécurité de l'Output. Pour les interactions en temps réel avec nos outils d'IA pour enfants, si aucune vérification humaine n'a lieu avant la livraison initiale du résultat, ClassDojo surveille et traite la situation dès que possible, comme indiqué ci‑dessus.
Afin de s'assurer que les enfants savent qu'ils interagissent avec une IA, ClassDojo affiche une mention dans le produit indiquant que l'outil ou la fonctionnalité qu'ils utilisent intègre de l'IA. Les enfants peuvent également signaler tout contenu inapproprié pouvant figurer dans un résultat lorsqu'ils utilisent l'outil d'IA pour enfants.
Les parents pourront également supprimer n'importe laquelle des entrées de leur enfant (par ex. audio ou texte) ; les entrées et les résultats seront supprimés dès que le compte de l'enfant sera inactif, sauf si la loi nous oblige à les conserver.
Outils d’IA pour parents
ClassDojo applique bon nombre des mêmes mesures de sécurité que pour les outils d'IA pour enfants mentionnés ci‑dessus, afin de surveiller les requêtes, les entrées et les résultats dans ses outils d'IA pour parents. En outre, ClassDojo demandera aux fournisseurs de services LLM de (i) répondre de manière appropriée (par ex. ne pas renvoyer de résultat, escalader la demande, etc.) si le fournisseur détecte qu'un parent a saisi dans l'outil d'IA pour parents une question susceptible d'entraîner un préjudice physique, mental ou émotionnel pour un enfant, et (ii) de ne pas renvoyer de résultats s'il détecte qu'un parent a téléchargé une image ou un document qui n'est pas une feuille de travail pédagogique lorsqu'un parent utilise l'outil d'IA pour parents « Devoirs et aide éducative ».
La plupart de nos outils d'IA pour parents ne sont pas interactifs en « temps réel », ce qui permet aux parents de vérifier le résultat avant de l'utiliser avec leur enfant. Les parents pourront également supprimer n'importe laquelle de leurs entrées, et les entrées ainsi que les résultats seront supprimés dès que le compte de parent sera inactif, sauf si la loi nous oblige à les conserver.
Limites des outils d'IA pour les parents et des outils d'IA pour enfants de ClassDojo
Bien que ces outils d'IA pour parents et pour enfants mentionnés ci‑dessus soient conçus pour soutenir et enrichir l'apprentissage, il est crucial de reconnaître que le contenu et les solutions générés par l'IA fournis par notre plateforme ne sont pas parfaits, reposent sur les données sur lesquelles l'IA a été entraînée et sont limités à ces données. En conséquence, il peut arriver que les réponses de l'IA ne tiennent pas compte de toutes les nuances d'une question nouvelle ou complexe, aboutissant à des imprécisions, des informations incorrectes, trompeuses ou à des interprétations erronées.
Étant donné le recours à l'IA pour adapter le contenu éducatif et fournir une aide instantanée, nous recommandons aux parents d'évaluer de façon critique les conseils de l'IA et de vérifier leur exactitude, en particulier lorsque cela concerne des sujets complexes ou avancés. Nous avons également prévu la possibilité pour les parents de consulter divers avis IA ou « Sorties » avant de les utiliser avec leur enfant. Pour nos outils d'IA pour enfants, lorsqu'il se peut qu'aucune vérification humaine n'intervienne pour les réponses et les interactions « en temps réel », ClassDojo effectue des tests de sécurité manuels et automatiques afin de s'assurer de manière proactive de la sécurité des résultats. ClassDojo s'engage à réduire les limites de l'IA grâce à un développement responsable de l'IA. Cela inclut de veiller à ce que nos outils d'IA pour parents et pour enfants soient conçus de manière à placer la confidentialité, la sécurité, l'inclusion, la confiance et la sûreté au cœur de leur fonctionnement. Notre approche de l'intégration de l'IA dans les outils éducatifs reflète notre engagement à offrir un environnement d'apprentissage bienveillant, efficace et respectueux pour tous les utilisateurs.
Comment nous contacter
Si vous avez des questions concernant l'utilisation de l'IA par ClassDojo, nos pratiques en matière de confidentialité ou de sécurité pour la gestion de vos données, ou pour toute autre raison, veuillez nous contacter par email à privacy@classdojo.com.
Vous pouvez également nous écrire à l'adresse suivante :
À l'attention du Responsable de la protection de la vie privée
ClassDojo
735 Tehama Street
San Francisco, Californie, 94103
États‑Unis d'Amérique.