A seguir, descrevemos como a ClassDojo usa IA em recursos utilizados em casa (sem relação com o uso escolar) por pais ou crianças. Para obter informações sobre como os dados são usados nas Ferramentas de IA da ClassDojo relacionadas ao uso escolar, consulte aqui. Para obter informações sobre como a ClassDojo usa Ferramentas de IA apenas para fins internos (por exemplo, para segurança de contas de usuários que não são crianças ou para fins de Trust and Safety) ou para finalidades de atendimento ao cliente (“Dojo AI Internal Tools”), consulte nossa FAQ.
Introdução
A ClassDojo está comprometida em aprimorar continuamente sua plataforma para oferecer a melhor experiência de aprendizagem possível para pais e seus filhos. Na busca por esse objetivo, temos o prazer de apresentar a tecnologia de inteligência artificial (“AI”) no serviço da ClassDojo para pais e crianças quando usam o ClassDojo fora da sala de aula (o “Serviço”)). A ClassDojo fez parceria com Modelos de Linguagem de Grande Porte (LLM) fornecedores de serviços OpenAI e Anthropic (“Fornecedores de Serviços LLM”) para lançar ferramentas de IA destinadas a melhorar a qualidade e a eficiência do nosso serviço ClassDojo e atender às necessidades tanto dos pais para ajudar seus filhos em casa quanto das próprias crianças para aprimorar seu aprendizado e outras atividades.
Nossos recursos inovadores ajudam os pais a apoiar seus filhos em casa — desde ferramentas para ajudar seus filhos a fazer a lição de casa, passando por orientação inteligente para ensinar as crianças a ler, até ferramentas que respondem diretamente às perguntas dos pais sobre aprendizagem e desenvolvimento. Oferecemos essas ferramentas para proporcionar um aprendizado e conteúdos mais inteligentes, envolventes e muito mais. Vale destacar que essas novas e empolgantes ferramentas irão:
- ajudar os pais a apoiar seus filhos com a lição de casa e outros objetivos de aprendizagem, incluindo guias aprimorados por IA para ajudar a orientar seus filhos ou para que os próprios pais possam se atualizar sobre a matéria;
- Responder diretamente às perguntas dos pais sobre aprendizagem e desenvolvimento;
- ajuda as crianças a aprender a ler por meio de uma série de aulas interativas, guiadas por Sparky, seu próprio treinador de leitura.
Com esses aprimoramentos de IA, pais, crianças e famílias se beneficiarão de uma experiência educacional mais interativa, envolvente e responsiva.
Nosso Compromisso
Entendemos a importância de garantir proteções robustas de privacidade e segurança para os pais e seus filhos à medida que integramos novas tecnologias de IA em rápida evolução, e queremos assegurar a você que trataremos os seus dados e os do seu filho com o máximo cuidado e responsabilidade. Como parte do nosso compromisso contínuo com a transparência e a responsabilidade no tratamento dos seus dados, estamos fornecendo as informações a seguir sobre nossas novas ferramentas de IA da ClassDojo para pais e crianças e sobre as opções que você tem em relação a elas. Além disso, a ClassDojo apoia os Princípios para IA na Educação da indústria de tecnologia educacional para garantir o uso seguro e responsável dos dados em tecnologia de IA. A ClassDojo participou ativamente do desenvolvimento desses Princípios como membro do Comitê Diretor de Educação em IA. Ao alinhar-nos com esses princípios, pretendemos aproveitar o poder da tecnologia de IA para enriquecer a experiência de aprendizagem de todos os nossos usuários, mantendo os mais altos padrões de privacidade, segurança e conduta ética. Leia mais sobre os Princípios para IA na Educação aqui, que têm o objetivo de orientar o desenvolvimento de IA responsável no setor para atender às necessidades de alunos, educadores e famílias. A ClassDojo também é membro do EdSAFE AI Conselho da Indústria e apoia os princípios do SAFE Framework - Segurança, Responsabilização, Justiça & Eficácia em IA.
Como parte de nossos compromissos, a ClassDojo não permite que qualquer prestador de serviços terceirizado de IA (por exemplo, OpenAI ou Anthropic) que ela possa utilizar para fornecer o Serviço use qualquer informação (informação pessoal ou desidentificada) para treinar, melhorar ou desenvolver seus sistemas de IA. ClassDojo também não utiliza nenhuma informação pessoal de crianças contida em quaisquer Entradas, Prompts ou Saídas para treinar quaisquer dos sistemas de IA da ClassDojo.
Este artigo aborda:
- Como a ClassDojo usa ferramentas de IA para pais e crianças
- Quais informações são usadas para fornecer ferramentas de IA para pais e ferramentas de IA para crianças?
- Como a ClassDojo usa informações para fornecer ferramentas de IA para pais e ferramentas de IA para crianças?
- Como trabalhamos com prestadores de serviços confiáveis para oferecer ferramentas de IA para pais e ferramentas de IA para crianças
- Como Pais Podem Desativar a Opção?
- Quais medidas de segurança empregamos nas Ferramentas de IA para pais e nas Ferramentas de IA para crianças?
- Limitações das Ferramentas de IA para pais e das Ferramentas de IA para crianças da ClassDojo
Como a ClassDojo usa ferramentas de IA para pais e crianças
Ferramentas de IA para Pais
Os pais podem optar por utilizar determinadas ferramentas ou recursos de IA para uso em casa (por exemplo, Homework Helper ou Family Sidekick) ao interagir ativamente com uma de nossas ferramentas de IA desenvolvidas para pais dentro do Serviço (“Ferramentas de IA para Pais”). O pai ou a mãe fornecerá ou enviará determinado conteúdo (por exemplo, um pai pode enviar imagens de fichas de exercícios ou perguntas sobre o desenvolvimento infantil) (“Entrada”) nas Ferramentas de IA para Pais para ajudar a orientar a lição de casa do seu filho. Essas Ferramentas de IA para Pais não se destinam ao uso por crianças (e não devem ser usadas por elas). Os pais podem optar por fornecer Entradas que podem conter a informação pessoal do seu filho e que também podem incluir fotos ou vídeos.
A ClassDojo então fornecerá um conjunto de instruções, ou “prompts” (por exemplo, “encontre exercícios adicionais de matemática do primeiro ano relacionados a esta ficha de exercícios”), (“Prompts”) para a ferramenta fornecida por IA e, em seguida, enviará tanto a Entrada quanto os Prompts aos Provedores de Serviços de LLM integrados, seja OpenAI ou Anthropic. Esses Provedores de Serviços de LLM então executam determinadas funções relacionadas à IA sobre a Entrada para produzir respostas geradas por IA com base na Entrada, chamadas de “Saída”. A Saída é então devolvida à ClassDojo pelos Provedores de Serviços de LLM. A ClassDojo então recebe essa Saída e a apresenta ao pai ou à mãe nos Serviços para sua análise. Os dados de Entrada, Prompt e Saída processados pelo Provedor de Serviços de LLM são retidos apenas temporariamente para fornecer o Serviço e para fins de confiança e segurança; em seguida, são excluídos pelo Provedor de Serviços de LLM imediatamente após a criação das Saídas.
Ferramentas de IA para Crianças
As crianças podem usar determinados recursos do nosso Serviço (como nosso recurso “aprender a ler”) que utilizam ou integram IA para ajudar ainda mais a orientar a criança em suas atividades na ClassDojo (“Ferramentas de IA para Crianças”). A Ferramenta de IA para Crianças pode utilizar informação pessoal coletada do seu filho enquanto ele interage com a Ferramenta de IA para Crianças (também chamada de Entrada). Mais informações sobre essas Ferramentas de IA para crianças estão descritas abaixo.
Dojo Sparks
Gravações de áudio para aulas de leitura
Ler em voz alta é uma parte essencial, baseada em pesquisa, do processo de aprender a ler. Para que a ClassDojo construa uma experiência de alfabetização básica significativa e totalmente autodirigida, precisamos da capacidade de “ouvir” os aprendizes lerem, entender o que foi dito e fornecer feedback. Isso nos permite corrigir, encorajar e ensinar seu filho a ler letras, palavras e frases. Nos anos iniciais (Kinder) isso ocorre no nível do fonema (“mmm”) e de palavras curtas (“map”). Em anos mais avançados, tentaríamos entender a fluência na leitura oral (precisão, automaticidade e prosódia/expressão) ao longo de frases e parágrafos. Portanto, é essencial que tenhamos reconhecimento automático de fala (“ASR”) em nossa ferramenta. Em relação ao ASR, com o consentimento dos pais, gravamos e coletamos a fala do seu filho (gravação de voz) por meio do microfone do dispositivo dele (por exemplo, iPad ou Chromebook). Se o dispositivo indicar que o áudio está sendo gravado, o indicador ficará ativado.
Como incorporamos o ASR?
- Processamento pela ClassDojo: A fala (gravação de voz) é coletada do dispositivo do seu filho pela ClassDojo (tratada de forma segura e excluída conforme indicado abaixo) (“Áudio da Aula de Leitura da Criança”).
- Processamento por terceiros: A fala (gravação de voz) ou o Áudio da Lição de Leitura da Criança, juntamente com identificadores desidentificados, é então enviada pela ClassDojo para ser processada por um provedor de serviços terceirizado avaliado (SpeechSuper) para ASR, que atende aos nossos requisitos de privacidade e segurança de dados e possui um Aditamento de Proteção de Dados assinado com a ClassDojo. A análise de ASR realizada pela SpeechSuper é então enviada de volta para a ClassDojo (“ASR Audio”).
- Processamento por terceiros: Além disso, com consentimento dos pais, enviaremos o Áudio da Lição de Leitura da Criança apenas com o primeiro nome do seu filho para um provedor de serviços de LLM integrado, para certos usos de IA, conforme indicado abaixo.
Depois de recebermos a análise ASR da gravação de voz de volta do nosso provedor de serviços terceirizado, SpeechSuper, a gravação de voz e a análise ASR seriam excluídas dos servidores deles (retidas apenas de forma transitória). A ClassDojo reteria separadamente o Áudio da Aula de Leitura da Criança (por exemplo, a gravação de voz inicial coletada no dispositivo do seu filho) para fornecer o Serviço, inclusive para os usos de IA mencionados abaixo, até que a conta do seu filho esteja inativa. Também reteremos a análise de ASR e os metadados relacionados enviados a nós pela SpeechSuper de forma desidentificada para melhorar nosso próprio ASR interno.
Sparky
Interações com o Assistente de Aprendizagem por IA
A ClassDojo pode usar interações com Dojo Sparks e o Áudio da Aula de Leitura da Criança coletado em conexão com as aulas de leitura (sem qualquer análise ASR ou Áudio ASR) para determinados Insights de IA e serviços de IA fornecidos ao seu filho, conforme indicado abaixo. Além disso, ao interagir com nosso assistente digital animado de aprendizagem por IA, “Sparky”, em nossos Serviços (“Assistente de Aprendizagem por IA”), seu filho pode gravar respostas apenas em áudio às perguntas do Sparky (por exemplo, “Qual é a sua cor favorita?” “Como você está se sentindo?”) ou pode responder escolhendo certas respostas baseadas em texto predefinidas (definidas pela ClassDojo). Com o consentimento dos pais, a ClassDojo gravará as respostas do seu filho e coletará a fala do seu filho (gravação de voz) por meio do microfone do dispositivo dele (por exemplo, iPad ou Chromebook) (“Áudio da Criança no Assistente de Aprendizagem”), assim como quaisquer respostas em texto ou ações “clicáveis” realizadas pelo seu filho para selecionar uma resposta ou interagir com um jogo (“Entrada de Texto da Criança”). Se o dispositivo indicar que o áudio está sendo gravado, o indicador ficará ativado. A ClassDojo também coletará informações sobre as interações do seu filho com o Assistente de Aprendizagem por IA (por exemplo, quais jogos ou aulas foram concluídos por meio das Ferramentas de IA para Crianças. Além disso, a ClassDojo ou os LLM Service Providers podem fazer inferências com base nas interações do seu filho com as Ferramentas de IA para Crianças. Trata-se de inferências que a ClassDojo ou os LLM Service Providers extraem do Áudio da Aula de Leitura da Criança, do Áudio da Criança no Assistente de Aprendizagem ou da Entrada de Texto da Criança (por exemplo, a criança mencionou que gosta de beisebol; fornecemos isso como entrada aos LLM Service Providers para personalizar a próxima interação da criança com o Assistente de Aprendizagem por IA “Sparky”) (“Inferências de IA da Criança”).
Insights de IA sobre o Áudio da Aula de Leitura da Criança, o Áudio da Criança no Assistente de Aprendizagem e a Entrada de Texto da Criança
A ClassDojo obtém o consentimento dos pais antes de permitir qualquer processamento de IA sobre as informações pessoais de crianças (ou a divulgação de quaisquer informações pessoais de crianças a qualquer provedor de serviços para realizar esse processamento). A ClassDojo utiliza LLM Service Providers integrados para executar certas funções relacionadas à IA sobre o Áudio da Aula de Leitura da Criança, o Áudio da Criança no Assistente de Aprendizagem, a Entrada de Texto da Criança, as Inferências de IA da Criança, bem como sobre as informações adicionais limitadas em texto e não identificáveis indicadas na tabela abaixo (por exemplo, apenas o primeiro nome) (“Informações em Texto Não Identificáveis”) a fim de obter insights gerados por IA sobre as aulas de leitura e a interação do seu filho com nosso assistente animado de aprendizagem por IA “Sparky”. As várias funções relacionadas à IA realizadas sobre o Áudio da Aula de Leitura da Criança, o Áudio da Criança no Assistente de Aprendizagem, a Entrada de Texto da Criança, as Inferências de IA da Criança e as Informações em Texto Não Identificáveis são feitas por meio do uso de instruções definidas pela ClassDojo, ou “Prompts”, dirigidos aos LLM Service Providers (por exemplo, “com base na entrada, gere a próxima aula de leitura para a criança”). A ClassDojo cria uma conexão com os LLM Service Providers para enviar áudio em tempo real e outros dados aos LLM Service Providers. O Áudio da Aula de Leitura da Criança, o Áudio da Criança no Assistente de Aprendizagem, a Entrada de Texto da Criança, as Inferências de IA da Criança e as Informações em Texto Não Identificáveis são enviados aos LLM Service Providers de forma a não identificar a criança (a menos que a criança tenha dito seu nome completo durante uma sessão gravada de áudio de leitura ou o tenha incluído na sua Entrada de Texto da Criança). Os LLM Service Providers então processam o Áudio da Aula de Leitura da Criança, o Áudio da Criança no Assistente de Aprendizagem, as Inferências de IA da Criança, a Entrada de Texto da Criança e as Informações em Texto Não Identificáveis (Entradas), bem como os Prompts, e geram um resultado ou Saída com base nessas Entradas e nesses Prompts. Os LLM Service Providers retornam o resultado, ou Output, à ClassDojo, que, por sua vez, apresenta o Output à criança em tempo real (por exemplo, por meio do nosso assistente de aprendizagem com IA animado, “Sparky”, que apresenta atividades adicionais de compreensão de leitura). Os dados de Input, Prompt e Output processados pelos LLM Service Providers são mantidos apenas transitoriamente para fornecer o Serviço e para fins de segurança e confiabilidade; em seguida, são excluídos imediatamente após a criação dos Outputs.
Quais informações são usadas para fornecer as Ferramentas de IA para Pais e as Ferramentas de IA para Crianças
Ao fornecer essas novas Ferramentas de IA para Pais e Ferramentas de IA para Crianças, a ClassDojo utiliza as seguintes informações:
- Entradas de pais e mães, que incluem imagens de fichas de exercícios e perguntas gerais sobre parentalidade e desenvolvimento infantil.
- Inputs gerados a partir de informações coletadas de crianças que usam o Dojo Sparks, incluindo gravações de áudio e texto inserido pela criança enquanto ela realiza lições de leitura interativas ou interage com o Sparky como assistente de aprendizagem com IA.
- Prompts ou instruções da ClassDojo, como “Encontre exercícios adicionais sobre matemática do primeiro ano relacionados a esta ficha de exercícios” ou “Meu filho precisa de ajuda adicional com o treinamento para usar o penico, encontre recursos para mim” ou “Conte uma piada no final da lição do Dojo Sparks”.
- Saídas que incluem sugestões de texto geradas por IA, interações animadas com crianças e perguntas adicionais.
Todas as informações das Ferramentas de IA para Pais e das Ferramentas de IA para Crianças fornecidas aos LLM Service Providers são transmitidas com segurança a esses provedores para processamento, armazenadas apenas transitoriamente nos Estados Unidos e criptografadas tanto em trânsito quanto em repouso. Nossas políticas de retenção de dados garantem que Inputs, Prompts e Outputs sejam excluídos pelos LLM Service Providers após o processamento, e que os Outputs retidos pela ClassDojo sejam protegidos e armazenados com segurança em conformidade com as políticas existentes da ClassDojo.
Os quadros a seguir fornecem mais detalhes sobre as informações usadas para disponibilizar as diversas Ferramentas de IA para Pais e Ferramentas de IA para Crianças (divididas entre Ferramentas de IA para Pais e Ferramentas de IA para Crianças), bem como os processos ou “Prompts” realizados nos “Inputs” para obter o resultado ou “Output”. Atualizaremos esses quadros à medida que atualizarmos nossos recursos para fornecer a você as informações necessárias 1) para que você tome uma decisão informada sobre usar ou não as Ferramentas de IA para Pais; ou 2) para fornecer aos pais informações adicionais e solicitar consentimento parental adicional nos termos da Children’s Online Privacy Protection Act e de seus regulamentos de implementação sob a Children’s Online Privacy Protection Rule (coletivamente “COPPA”) para quaisquer informações pessoais adicionais de crianças que sejam usadas em conexão com as Ferramentas de IA para Crianças.
Ferramentas de IA para Pais
| Ferramentas de IA para Pais do ClassDojo e Processamento dos Inputs | Informações do Usuário Utilizadas para Fornecer as Ferramentas de IA (Inputs) | Output Gerado* | Tipos de Usuário de Quem o Input é Coletado e o Output É Compartilhado | Como essas Informações são enviadas ao LLM | Período de Retenção / Armazenamento / Segurança |
|
Assistente de Lição de Casa e Apoio Educacional Uma ferramenta que processa vários formatos de imagem (ex.: JPG, PDF) contendo folhas de atividades educacionais. A ferramenta Assistente de Lição de Casa e Apoio Educacional sugere dicas sobre como ajudar seu filho com base na ficha de exercícios enviada. O pai pode revisar o Output antes de usá-lo com sua criança.
|
Fotos de folhas de atividades tiradas pelos pais Os metadados incluem o formato do arquivo enviado e o contexto de processamento. Prompt fornecido pela ClassDojo que não conterá nenhuma informação pessoal de usuário (por exemplo, “Gerar exercícios adicionais”). O ClassDojo também instruirá o LLM a não retornar resultados se detectar que não é uma folha de atividade educacional. Além disso, a ClassDojo usa ferramentas para auxiliar nos testes de segurança, bem como na implementação de proteções em Prompts, Inputs e Outputs baseados em texto para confiança e segurança (para testar conteúdo nocivo e outras preocupações éticas). |
Sugestões de texto geradas por IA sobre como ajudar sua criança com a lição de casa com base na folha de atividade enviada |
– Input coletado dos pais – Saída divulgada a pais e mães, que podem revisar e decidir usar com seu filho. |
Inputs de imagens dos pais, juntamente com quaisquer Prompts do ClassDojo, são transmitidos de forma segura pelo ClassDojo para a OpenAI e Anthropic para processamento. |
Período de retenção
Outputs (texto gerado por IA):
Armazenamento – Todos os dados são armazenados nos Estados Unidos. Segurança – Todos os inputs e outputs são criptografados em trânsito e em repouso. |
|
Ajudante da Família Uma ferramenta que processa perguntas em texto feitas por responsáveis. A ferramenta Family Sidekick sugere dicas de como ajudar seu filho com base nas perguntas em texto. O pai pode revisar o Output antes de usá-lo com sua criança. |
Perguntas gerais em texto enviadas por responsáveis sobre desenvolvimento infantil (por exemplo, "me mostre artigos sobre desfralde"). Prompt fornecido pela ClassDojo que não conterá nenhuma informação pessoal de usuário (por exemplo, “Gere uma resposta à pergunta do responsável”). A ClassDojo também instruirá o LLM a responder de forma adequada (por exemplo, não retornar um resultado, escalar, etc.) se detectar que se trata de uma pergunta que pode resultar em dano físico, mental ou emocional a uma criança. Além disso, a ClassDojo usa ferramentas para auxiliar nos testes de segurança, bem como na implementação de proteções em Prompts, Inputs e Outputs baseados em texto para confiança e segurança (para testar conteúdo nocivo e outras preocupações éticas). |
Respostas e recursos gerados por IA para responder às perguntas do responsável |
– Input coletado dos pais – Output compartilhado com os pais, que podem revisar e decidir se utilizarão com sua criança |
Entradas de texto dos responsáveis, juntamente com quaisquer Prompts da ClassDojo, são transmitidas com segurança pela ClassDojo para a OpenAI e a Anthropic para processamento. |
Período de retenção
Outputs (texto gerado por IA):
Armazenamento – Todos os dados são armazenados nos Estados Unidos. Segurança – Todas as entradas e saídas são criptografadas em trânsito e em repouso |
* O processamento/Prompts e Outputs listados são meros exemplos e não pretendem refletir a linguagem exata que será utilizada.
Ferramentas de IA para Crianças
| Ferramentas de IA para Pais do ClassDojo e Processamento dos Inputs | Informações do Usuário Utilizadas para Fornecer as Ferramentas de IA (Inputs) | Output Gerado* | Tipos de Usuário de Quem o Input é Coletado e o Output É Compartilhado | Como essas Informações são enviadas ao LLM | Período de Retenção / Armazenamento / Segurança |
|
Recursos interativos de compreensão de leitura Uma ferramenta dentro do nosso recurso de compreensão de leitura que processa várias gravações de áudio e entradas de texto de uma criança contendo respostas às aulas de leitura e interações com o Assistente de Aprendizagem de IA, a fim de produzir interações em tempo real com a criança que ajudarão a personalizar a experiência dela no aplicativo. Os exemplos incluem 1) o Sparky chamando a criança pelo primeiro nome e fazendo referência a uma conversa ou aula anterior; 2) alterar as aulas ou a dificuldade para alinhar melhor às necessidades de aprendizagem da criança; ou 3) modificar as aulas para torná‑las mais envolventes, por exemplo, formulando uma pergunta de leitura sobre dinossauros ou fadas. A saída é interativa em tempo real; não há revisão humana na entrega inicial da saída. No entanto, A ClassDojo usa ferramentas para auxiliar nos testes de segurança, bem como para estabelecer salvaguardas nos prompts baseados em texto, nas entradas e nas saídas para confiança e segurança (para testar conteúdo prejudicial e outras preocupações éticas). Além disso, a ClassDojo realiza testes periódicos de revisão automatizada e humana para garantir a segurança da saída) |
- Áudio das aulas de leitura da criança (gravações de áudio das aulas de leitura (atuais e também de aulas concluídas anteriormente), incluindo áudio de interações com o Assistente de Aprendizagem de IA, “Sparky.” durante as aulas de leitura). *Observe que o Áudio das aulas de leitura da criança pode conter informações identificáveis se seu filho fornecer isso no áudio - Transcrições em texto de áudios anteriores (são transcrições em texto geradas a partir do Áudio das aulas de leitura anteriores do seu filho que serão enviadas aos provedores de serviço LLM). -Informações em texto não identificáveis (fornecidas pela ClassDojo, por exemplo, apenas o primeiro nome da criança) -Metadados (inclui o formato do arquivo enviado e o contexto de processamento). -Outras interações com o Dojo Sparks (por exemplo, quais jogos ou lições foram concluídos) -Aulas de áudio fornecidas pela ClassDojo (por exemplo, “diga a letra 'a'”) -Prompt fornecido pela ClassDojo que não conterá nenhuma informação pessoal do usuário (por exemplo, “Conte uma piada”.) ClassDojo também instruirá o LLM a não retornar quaisquer resultados inadequados para crianças e usa ferramentas para auxiliar nos testes de segurança, além de aplicar salvaguardas em Prompts, Inputs e Outputs baseados em texto para confiança e segurança (para testar conteúdo nocivo e outras questões éticas). |
– Respostas interativas geradas em tempo real pela Assistente de Aprendizagem com IA, Sparky, para seu filho (por exemplo, para que o Sparky possa referenciar algo de uma conversa ou lição anterior ou contar uma piada). Este Output pode conter informações pessoais da criança - Transcrição em texto das interações entre o Sparky e seu filho que será reenviada aos provedores de serviços LLM |
– Entradas coletadas de crianças por meio das gravações de áudio das aulas de leitura e de sua interação com a Assistente de Aprendizagem com IA, “Sparky” – Output divulgado em tempo real para as crianças (sem revisão humana prévia, mas a ClassDojo realiza testes periódicos automatizados e revisões humanas para garantir a segurança do Output). As transcrições em texto do áudio anterior são divulgadas aos provedores de serviços LLM e retidas pela ClassDojo. |
Entradas de áudio das aulas de leitura da criança, transcrições em texto do áudio anterior, informações em texto não identificáveis (por ex., apenas o primeiro nome), áudios fornecidos pela ClassDojo, juntamente com quaisquer Prompts da ClassDojo, são transmitidos de forma segura pela ClassDojo para a OpenAI e a Anthropic para processamento. |
Período de Retenção Áudio das aulas de leitura da criança:
Entradas e Prompts (Entradas da criança e Prompts da ClassDojo)
Outputs (áudio gerado por IA):
Armazenamento – Todos os dados são armazenados nos Estados Unidos. Segurança – Todos os inputs e outputs são criptografados em trânsito e em repouso. |
|
“Sala do Sparky” Recursos interativos limitados com o Assistente de Aprendizagem com IA Uma ferramenta dentro de uma área específica (por exemplo, “sala”) com a qual a criança pode interagir, que processa diversas gravações de áudio e entradas de texto da própria criança, contendo respostas e interações com o Assistente de Aprendizagem com IA, a fim de produzir interações em tempo real com a criança que ajudarão a personalizar a experiência da criança no aplicativo. Exemplos incluem: 1) o Sparky chamando a criança pelo primeiro nome e mencionando uma conversa ou lição anterior; 2) o Sparky interagindo com seu filho por meio de certos jogos; 3) alterar as lições ou a dificuldade para alinhar-se melhor às necessidades de aprendizagem da criança; ou 4) modificar as lições para torná-las mais envolventes, por exemplo, transformando uma pergunta de leitura em algo sobre dinossauros ou fadas. A saída é interativa em tempo real; não há revisão humana na entrega inicial da saída. No entanto, A ClassDojo usa ferramentas para auxiliar nos testes de segurança, bem como para estabelecer salvaguardas nos prompts baseados em texto, nas entradas e nas saídas para confiança e segurança (para testar conteúdo prejudicial e outras preocupações éticas). Além disso, ClassDojo realiza periodicamente testes de revisão automatizados e humanos para garantir a segurança do Output. |
- Áudio das aulas de leitura da criança (gravações de áudio das aulas de leitura (atuais e também de aulas concluídas anteriormente), incluindo áudio de interações com o Assistente de Aprendizagem de IA, “Sparky.” durante as aulas de leitura). - Áudio do Assistente de Aprendizagem Infantil (gravação de áudio das interações da criança com o Assistente de Aprendizagem de IA, “Sparky”, usado em todos os Serviços da ClassDojo). *Observe que o Áudio da Aula de Leitura da Criança e o Áudio do Assistente de Aprendizagem Infantil podem conter informações identificáveis se seu filho as fornecer no áudio. - Transcrições em texto de áudios anteriores (são transcrições em texto geradas a partir do Áudio das aulas de leitura anteriores do seu filho que serão enviadas aos provedores de serviço LLM). -Entrada de Texto da Criança (respostas em texto ou ações “clicáveis” realizadas pela criança enquanto interage com as Ferramentas de IA para Crianças) -Inferências de IA da Criança (inferências que tanto a ClassDojo quanto os Fornecedores de Serviços LLM extraem do Áudio da Aula de Leitura da Criança, do Áudio do Assistente de Aprendizagem Infantil ou da Entrada em Texto da Criança, por exemplo, se a criança mencionar que gosta de beisebol, nós usamos isso como Input para os Fornecedores de Serviços LLM para personalizar a próxima interação da criança com o Assistente de Aprendizagem de IA “Sparky”). -Informações Textuais Não Identificáveis (ex.: apenas o primeiro nome da criança) -Metadados (inclui formato de arquivo enviado e contexto de processamento). -Outras interações com o Dojo Sparks (por exemplo, quais jogos ou lições foram concluídos) -Aulas de áudio fornecidas pela ClassDojo (por exemplo, “diga a letra 'a'”) -Prompt fornecido pela ClassDojo que não conterá nenhuma informação pessoal do usuário (por exemplo, “Reconheça a experiência da criança com a aula, faça uma pergunta sobre a aula atual e jogue um rápido jogo de palavras sobre o que ela aprendeu”). A ClassDojo também instruirá o LLM a não retornar resultados inadequados para crianças e usará ferramentas para auxiliar nos testes de segurança e na implementação de restrições em Prompts, Input e Outputs baseados em texto para confiança e segurança (para testar conteúdo nocivo e outras preocupações éticas). |
–Respostas interativas geradas por IA em tempo real, assim como jogos interativos do Assistente de Aprendizagem de IA, Sparky, para seu filho (por exemplo, para que o Sparky possa fazer referência a algo de uma conversa ou aula anterior, interagir com seu filho para jogar, ou contar uma piada). Este Output pode conter informações pessoais da criança - Transcrição em texto das interações entre o Sparky e seu filho que será reenviada aos provedores de serviços LLM |
– Entradas coletadas de crianças por meio das gravações de áudio das aulas de leitura e de sua interação com a Assistente de Aprendizagem com IA, “Sparky” – Output divulgado em tempo real para as crianças (sem revisão humana prévia, mas a ClassDojo realiza testes periódicos automatizados e revisões humanas para garantir a segurança do Output). Transcrições em texto do áudio anterior são repassadas aos Fornecedores de Serviços LLM |
Áudio da Aula de Leitura da Criança, Áudio do Assistente de Aprendizagem Infantil, Transcrições em Texto do Áudio Anterior, Inferências de IA da Criança, Informações Textuais Não Identificáveis (ex.: apenas o primeiro nome), áudios fornecidos pela ClassDojo, juntamente com quaisquer Prompts da ClassDojo, são transmitidos de forma segura pela ClassDojo para a OpenAI e a Anthropic para processamento. |
Período de Retenção Áudio das aulas de leitura da criança:
Entradas e Prompts (Entradas da criança e Prompts da ClassDojo)
Outputs (áudio gerado por IA):
Armazenamento – Todos os dados são armazenados nos Estados Unidos. Segurança – Todos os inputs e outputs são criptografados em trânsito e em repouso. |
Como a ClassDojo usa informações para fornecer ferramentas de IA para pais e ferramentas de IA para crianças?
Ferramentas de IA para Pais
Os pais fornecerão na Ferramenta de IA para Pais da ClassDojo Inputs, tais como imagens de fichas de exercícios educacionais ou perguntas sobre o desenvolvimento infantil. Além disso, o ClassDojo fornecerá um conjunto de instruções ou “Prompts”. Em seguida, a ClassDojo enviará tanto o Input quanto os Prompts para um Fornecedor de Serviços LLM integrado (por exemplo, a OpenAI ou a Anthropic), para realizar determinadas funções relacionadas à IA sobre o Input, a fim de produzir respostas geradas por IA com base no Input, chamadas de “Output”. Para proteger a privacidade dos usuários, o ClassDojo não compartilha outros identificadores diretos de crianças com o Provedor de Serviço LLM (exceto no caso do pai ter incluído qualquer identificador direto no Input fornecido pelo pai). As Ferramentas de IA para Pais não se destinam a ser usadas (e não devem ser usadas) por crianças.
Dados obtidos a partir dos Inputs, Prompts e Outputs podem ser acessados, processados e usados pela ClassDojo para fornecer, melhorar (conforme permitido por lei) e manter o Serviço, aplicar nossas políticas, realizar análises internas (incluindo para fornecer métricas e registros de dados ou registros de atividade necessários para medir o tempo de atividade/inatividade e depurar as ferramentas), e manter nossa plataforma segura. Por exemplo, os Inputs e Prompts serão enviados ao Fornecedor de Serviços LLM para criar dicas em texto geradas por IA sobre como ajudar seu filho com a lição de casa. Para mais informações sobre os “Inputs” e “Prompts” usados para gerar os insights de IA, as informações compartilhadas com o Fornecedor de Serviços LLM, e o uso de IA pela ClassDojo, consulte nossa tabela acima.
Ferramentas de IA para Crianças
Em conexão com a interação e o uso das Ferramentas de IA para Crianças, as crianças fornecerão determinadas informações conforme indicado acima, que podem conter suas informações pessoais. A ClassDojo usa o Áudio da Aula de Leitura da Criança, o Áudio do Assistente de Aprendizagem Infantil, as Inferências de IA da Criança, a Entrada em Texto da Criança e as Informações Textuais Não Identificáveis como “Inputs” para gerar insights e respostas de IA em tempo real por meio do uso de LLM Fornecedores de Serviços integrados, em conexão com as Ferramentas de IA para Crianças. Sob direção e instrução específicas da ClassDojo, os Fornecedores de Serviços LLM executarão determinadas funções relacionadas à IA sobre o Áudio da Aula de Leitura da Criança, o Áudio do Assistente de Aprendizagem Infantil, as Inferências de IA da Criança, a Entrada em Texto da Criança e as Informações Textuais Não Identificáveis, a fim de obter certos insights gerados por IA, como sobre as interações de seu filho com nosso Assistente de Aprendizagem de IA durante suas aulas de compreensão de leitura para produzir os Outputs de IA. As diversas tarefas relacionadas à IA são realizadas por meio de instruções dirigidas pela ClassDojo, ou “Prompts”, enviadas aos provedores de serviço LLM (por exemplo, “Reconheça a experiência da criança com a aula, faça uma pergunta sobre a aula atual e proponha um rápido jogo de palavras sobre o que ela aprendeu”). ClassDojo envia tanto os Inputs quanto os Prompts a um provedor de serviços LLM integrado (por exemplo, OpenAI ou Anthropic), para executar determinadas funções relacionadas à IA sobre o Input, a fim de produzir respostas geradas por IA com base no Input denominadas “Output”. Para proteger a privacidade dos usuários, a ClassDojo não compartilha quaisquer identificadores diretos de crianças (exceto na medida em que quaisquer identificadores diretos tenham sido incluídos pela própria criança dentro de seu Áudio da Aula de Leitura, Áudio do Assistente de Aprendizagem da Criança ou Entrada de Texto da Criança).
Dados obtidos dos Outputs de IA, do Áudio da Aula de Leitura, do Áudio do Assistente de Aprendizagem da Criança, das Inferências de IA da Criança, da Entrada de Texto da Criança e de informações textuais não identificáveis podem ser acessados, processados e usados pela ClassDojo para fornecer, aprimorar (conforme permitido por lei) e manter o Serviço, personalizar experiências de usuário, aplicar nossas políticas, realizar análises internas (incluindo fornecer métricas e registros de dados ou atividade necessários para medir tempo de atividade/inatividade e depurar as ferramentas) e manter nossa plataforma segura. Por exemplo, o Áudio da Aula de Leitura da Criança será enviado aos provedores de serviços LLM para criar respostas interativas geradas por IA em tempo real, assim como jogos interativos do Assistente de Aprendizagem por IA, Sparky, para seu filho (por exemplo, para que o Sparky possa referir‑se a algo de uma conversa ou aula anterior, interagir com seu filho para jogar ou contar uma piada). Para mais informações sobre os “Inputs” e “Prompts” usados para gerar os insights de IA, as informações compartilhadas com os provedores de serviços LLM e o uso das Ferramentas de IA para crianças pela ClassDojo, consulte nossa tabela acima.
Ferramentas de IA para pais e Ferramentas de IA para crianças
A ClassDojo não utiliza quaisquer informações pessoais de crianças contidas em quaisquer Inputs (incluindo o Áudio da Aula de Leitura da Criança, Áudio do Assistente de Aprendizagem da Criança, Inferências de IA da Criança e Entrada de Texto da Criança), Prompts ou Output para treinar quaisquer sistemas de IA. ClassDojo só treinará nossos sistemas de IA com dados de crianças que tenham sido desidentificados de forma que não sejam rastreáveis a qualquer usuário da ClassDojo. Além disso, a ClassDojo não permite que um provedor de serviços de LLM ou qualquer terceiro prestador de serviços de IA que ela possa utilizar use qualquer informação (informações pessoais ou desidentificadas) para treinar, aprimorar ou desenvolver seus sistemas de IA. Este compromisso inclui as informações contidas na tabela acima, como os Inputs fornecidos pelos pais e usados para produzir os Outputs de IA.
Os dados do seu filho (ou seus dados, se você for o pai/mãe) usados para fornecer os “Inputs” (por exemplo, o Áudio da Aula de Leitura da Criança, o Áudio do Assistente de Aprendizagem da Criança, Inferências de IA da Criança ou Entrada de Texto da Criança) serão mantidos apenas de forma transitória pelos provedores de serviços de LLM para fornecer o Serviço à ClassDojo. Para garantir isso, a ClassDojo celebrou um contrato específico com a Anthropic e com a OpenAI para “retenção zero de dados” para as Ferramentas de IA para pais e as Ferramentas de IA para crianças da ClassDojo mencionadas acima. Isso significa que os Prompts, Inputs e Outputs (a) não serão registrados para revisão humana pela OpenAI nem pela Anthropic e (b) não serão salvos em disco nem retidos pela OpenAI nem pela Anthropic. Observe, entretanto, que a OpenAI e a Anthropic podem fazer uma triagem automatizada dos Inputs e Prompts para fins de segurança (os “Classificadores de Segurança”), o que consistirá apenas em metadados (incluindo tipos de classificadores, datas, contagens e níveis de confiança), e não incluirá nenhum Input, Prompt ou Output propriamente dito (incluindo sumarizações de Prompts, Inputs ou Outputs) nem nenhuma parte deles. A OpenAI e a Anthropic podem reter Classificadores de Segurança.
Como trabalhamos com prestadores de serviços confiáveis para oferecer ferramentas de IA para pais e ferramentas de IA para crianças
Para oferecer essas Ferramentas de IA para pais e Ferramentas de IA para crianças na plataforma ClassDojo, a ClassDojo trabalha com provedores de serviços confiáveis OpenAI e Anthropic. Ao colaborar com esses terceiros provedores de serviços, a ClassDojo continua comprometida em manter nossos valores de transparência, responsabilidade, equidade e segurança no uso de dados de usuários em tecnologia de IA.
Como Pais Podem Desativar a Opção?
Ferramentas de IA para Pais
O uso das Ferramentas de IA para Pais pelos pais é totalmente opcional. Nossas Ferramentas de IA para pais não são oferecidas diretamente para uso por crianças menores de treze (13) anos, e solicitamos que tais indivíduos não forneçam informações pessoais (e você, como pai/mãe, concorda com essas limitações); assim, não obtemos o consentimento COPPA em conexão com as Ferramentas de IA para pais. Além disso, não coletamos conscientemente (nem permitimos conscientemente que terceiros coletem) nem mantemos informações pessoais de qualquer pessoa com menos de 13 anos em conexão com nossas Ferramentas de IA para pais. Se formos informados de que uma criança menor de 13 anos forneceu informações pessoais para nós ou de que informações pessoais foram coletadas de uma criança menor de 13 anos em conexão com as Ferramentas de IA para Pais, eliminaremos tais informações dos nossos arquivos o mais rápido possível. Se você for pai, mãe ou responsável legal de uma criança com menos de 13 anos e acreditar que ela forneceu informações pessoais à ClassDojo em conexão com as Ferramentas de IA para pais, envie um e-mail para a ClassDojo em privacy@classdojo.com para que as informações dessa criança sejam excluídas.
Ferramentas de IA para Crianças
Se você, como pai/mãe ou responsável que anteriormente deu consentimento para que as informações pessoais de seu filho fossem usadas em conexão com as Ferramentas de IA para crianças da ClassDojo, desejar a qualquer momento impedir seu uso posterior, você tem o direito de optar por não autorizar o uso pela ClassDojo do Áudio da Aula de Leitura da Criança, do Áudio do Assistente de Aprendizagem da Criança, das Inferências de IA da Criança, da Entrada de Texto da Criança ou de quaisquer outras informações pessoais para uso nas Ferramentas de IA para crianças, nos solicitando a exclusão do Áudio da Aula de Leitura da Criança, Áudio do Assistente de Aprendizagem da Criança, Inferências de IA da Criança, Entrada de Texto da Criança ou quaisquer outras informações pessoais. Além disso, você pode solicitar a exclusão de quaisquer informações pessoais contidas no Output de IA gerado a partir deste input. Por favor, lembre-se de que uma solicitação de exclusão de informações pode afetar a capacidade do seu filho de acessar os Serviços ou utilizar determinados recursos. Para exercer esse direito de exclusão, entre em contato conosco pelo privacy@classdojo.com ou pelo endereço 735 Tehama Street, San Francisco, CA 94103. Esteja ciente de que, para proteger a privacidade e a segurança das crianças, tomamos medidas razoáveis para verificar a identidade do pai, da mãe ou do responsável legal antes de conceder acesso a quaisquer informações pessoais do seu filho. Para mais informações sobre como exercer seus direitos, visite a seção “Opções para pais” da Política de Privacidade para Crianças da ClassDojo.
Quais medidas de segurança empregamos nas Ferramentas de IA para pais e nas Ferramentas de IA para crianças?
Ferramentas de IA para Crianças
A ClassDojo está comprometida em promover oportunidades de aprendizagem éticas, imparciais e equitativas para crianças como parte de seu compromisso com o EdSafe SAFE Framework. Como parte desse compromisso, a ClassDojo incluirá instruções de segurança em seus Prompts aos provedores de serviços LLM, incluindo a solicitação de não retornar resultados inadequados para crianças, e revisará periodicamente a qualidade dos dados de Output utilizados no Serviço, inclusive para monitorar conteúdo ou conselhos nocivos e perigosos e quaisquer vieses involuntários, usando diretrizes aplicáveis como as da UNICEF e da CDC. A ClassDojo usa ferramentas para auxiliar nos testes de segurança, bem como para aplicar salvaguardas em Prompts, Inputs e Outputs baseados em texto para confiança e segurança (para testar conteúdo ou conselhos nocivos ou perigosos e outras preocupações éticas). Além disso, a ClassDojo realiza testes periódicos de revisão automatizada e humana para garantir a segurança do Output. Para interações em tempo real com nossas Ferramentas de IA para Crianças, caso não haja revisão humana antes da entrega inicial do resultado, a ClassDojo monitora e toma as providências o mais rápido possível, conforme mencionado acima.
Para garantir que as crianças saibam que estão interagindo com IA, a ClassDojo exibe uma notificação no próprio produto para alertá‑las de que a ferramenta ou recurso que estão usando inclui IA. As crianças também podem denunciar qualquer conteúdo inadequado que possa constar em um resultado enquanto usam a própria Ferramenta de IA para Crianças.
Os pais também poderão excluir quaisquer Entradas da criança (por exemplo, baseadas em áudio ou texto), e tanto as Entradas quanto os Resultados serão excluídos assim que a conta da criança estiver inativa, a menos que sejamos obrigados por lei a mantê-las.
Ferramentas de IA para Pais
A ClassDojo emprega muitas das mesmas medidas de segurança que utiliza nas Ferramentas de IA para Crianças mencionadas acima para monitorar os prompts, a Entrada e o Resultado em suas Ferramentas de IA para Pais. Além disso, a ClassDojo instruirá os Provedores de Serviço de LLM a (i) responder adequadamente (por exemplo, não retornar um resultado, encaminhar, etc.) se o Provedor de Serviço de LLM detectar que um dos pais inseriu uma pergunta na Ferramenta de IA para Pais que possa resultar em dano físico, mental ou emocional a uma criança e (ii) a não retornar quaisquer resultados quando detectar que um dos pais carregou uma imagem ou documento que não seja uma ficha de exercícios ao utilizar a Ferramenta de IA para Pais de Lição de Casa e Assistente Educacional.
A maioria de nossas Ferramentas de IA para Pais não é interativa em "tempo real", dando aos pais a possibilidade de revisar o Resultado antes de usá-lo com seu filho. Os pais também poderão excluir qualquer uma de suas Entradas, e tanto Entradas quanto Resultados serão excluídos assim que a conta dos pais estiver inativa, a menos que sejamos obrigados por lei a retê-los.
Limitações das Ferramentas de IA para pais e das Ferramentas de IA para crianças da ClassDojo
Embora essas Ferramentas de IA para Pais e Ferramentas de IA para Crianças mencionadas acima sejam projetadas para apoiar e enriquecer a aprendizagem, é crucial reconhecer que o conteúdo e as soluções gerados por IA fornecidos pela nossa plataforma não são perfeitos e se baseiam e estão limitados aos dados com os quais a IA foi treinada. Como resultado, podem ocorrer situações em que os outputs da IA não compreendam completamente as nuances de um problema novo ou complexo, levando a possíveis imprecisões, informações incorretas ou enganosas, ou interpretações equivocadas.
Dada a dependência da IA para personalizar conteúdos educacionais e fornecer assistência imediata, recomendamos que pais avaliem criticamente as orientações oferecidas pela IA e verifiquem sua precisão, especialmente em assuntos complexos ou avançados, tendo ainda a possibilidade de revisar os insights ou “Outputs” da IA antes de usá-los com sua criança. Para nossas Ferramentas de IA para Crianças em que a revisão humana pode não estar presente para as respostas e interações "em tempo real", a ClassDojo utiliza testes de segurança manuais e automáticos para obter, de forma proativa, confiança na segurança dos Resultados. O ClassDojo está comprometido em reduzir as limitações da IA ao focar em desenvolvimento responsável de IA. Isso inclui garantir que nossas Ferramentas de IA para Pais e Ferramentas de IA para Crianças sejam construídas com privacidade, segurança, inclusão, confiança e proteção como princípios fundamentais. Nossa abordagem na integração da IA em ferramentas educacionais reflete nossa dedicação em proporcionar um ambiente de aprendizagem acolhedor, eficaz e respeitoso para todos os usuários.
Como entrar em contato conosco
Se você tiver qualquer dúvida sobre o uso de IA pelo ClassDojo, nossas práticas de privacidade ou segurança no tratamento de seus dados, ou para qualquer outro assunto, entre em contato conosco pelo e-mail privacy@classdojo.com.
Você também pode nos escrever para o seguinte endereço:
A/C: Diretor de Privacidade
ClassDojo
735 Tehama Street
San Francisco, California, 94103
Estados Unidos da América.