AI Safety

IA Safety protege a tus estudiantes y a tu institución cada vez que alguien usa la IA de LingoQuesto. Identifica los usos que se salen de la política, avisa a tu equipo y, cuando hace falta, termina una conversación o deja un contenido en revisión antes de publicarse.

En pocas palabras: si un estudiante o un docente escribe o genera contenido de odio, acoso, autolesión, violencia, contenido sexual o datos personales, IA Safety lo marca, avisa a quien revisa y actúa según el flujo. En Configuración de features, cada fila indica dónde corre esta protección: quién usa la IA y en qué parte de la plataforma. Hoy está activa en Estudiante · Conversación.

Qué hace IA Safety

Tres tareas que trabajan juntas para que la práctica con IA sea un espacio seguro.

• Cuida a las personas. Mantiene la práctica con IA lejos de temas como autolesión, acoso, odio, violencia o contenido sexual.
• Registra la evidencia. Crea una alerta con el mensaje, el audio si lo hay, quién lo dijo y en qué actividad. Docentes y administradores pueden revisarla.
• Actúa a tiempo. Además de registrar, interviene: en una conversación puede terminar el chat y en la creación de contenido deja la actividad en revisión antes de publicarse.

Cómo leer la configuración

Cada fila de Configuración de features describe un lugar de la plataforma donde corre IA Safety. Estas son sus cuatro columnas:

Los flujos protegidos

Seis momentos de la plataforma, organizados según quién usa la IA.

Estudiante, cuando practica

Conversación · Speaking · chat · Activa El estudiante entra a una actividad de práctica oral y conversa con la IA, en chat o role play. IA Safety revisa cada mensaje. Si alguno se sale de la política, crea una alerta y puede terminar la conversación.
Oraciones · Speaking · frases · Inactiva Práctica de oraciones sueltas: repetir o completar frases. Aplica el mismo filtro de política en un tipo de actividad distinto al chat.
Palabras · Vocabulario · Inactiva Práctica de vocabulario palabra por palabra, con ejercicios cortos. Revisa respuestas breves.

Docente, cuando crea o prueba contenido

Creación de contenido · AI Studio · Inactiva Cuando el docente crea una actividad, IA Safety revisa el prompt y el contenido que genera la IA. Si algo se sale de la política, la actividad queda en revisión antes de publicarse.
Conversación de prueba · Vista previa · Inactiva Cuando el docente prueba o previsualiza el chat como si fuera estudiante. Es la misma conversación, vista desde el rol docente.
Creación de curso · Curso · Inactiva Cuando el docente arma un curso con varias actividades. IA Safety revisa el contenido del curso completo.

Niveles de alerta

Cada alerta llega con un nivel que te ayuda a decidir qué revisar primero.

• Info: una señal leve. Queda registrada para consulta y, por lo general, la actividad continúa.
• Advertencia: indicios de uso indebido que vale la pena revisar. Según el caso, la conversación puede continuar.
• Alta: un contenido que se sale claramente de la política. Conviene revisarlo pronto.
• Crítica: los casos más graves: odio, autolesión, violencia o contenido sexual. En la conversación de un estudiante, suele terminar el chat para protegerlo.

Categorías que identifica

Acoso · Odio · Contenido sexual · Violencia · Autolesión · Evasión de prompt · Tema prohibido · Fuera de tema · Trampa académica · Datos personales · Spam

Qué pasa cuando hay una alerta

1. Se crea la alerta. Aparece en Uso indebido de IA con la evidencia (texto o audio), el actor, el flujo y la categoría.
2. Se aplica la acción. En la conversación de un estudiante, IA Safety puede advertir o terminar el chat. En la creación de contenido, la actividad queda en revisión.
3. Se revisa y se cierra. Un docente o administrador marca la alerta como revisada o la resuelve. La protección sigue activa en ese flujo.

Te acompañamos

¿Quieres revisar la configuración de tu institución o conocer una alerta en detalle? Escríbenos por el chat de soporte y lo vemos contigo.

Actualizado el: 18/09/2026