IA y moderación

1. Estado y finalidad

DHGcraft prevé usar IA para ayudar a transcribir, clasificar denuncias, señalar normas posiblemente afectadas y ordenar casos por riesgo. La app debe indicar si el servicio está preparado, en modo de pruebas, en sombra o no disponible.

2. Información analizada

Según la función y sus autorizaciones, el análisis puede usar texto denunciado, transcripción revisada, categoría, contexto de turnos, metadatos mínimos e historial de medidas. La voz original del micrófono no debe guardarse ni enviarse para moderación; cuando exista evidencia de audio, será la versión transformada autorizada y limitada al caso.

3. Riesgos que puede señalar

Acoso, amenazas, odio, explotación o riesgo para menores, autolesión, ilegalidad, privacidad y GPS, suplantación, spam, propiedad intelectual, senderismo peligroso y abuso de denuncias. Una señal es una recomendación, no una prueba definitiva.

4. Proceso previsto

1. La denuncia identifica tramo y categoría.
2. La IA genera señales, nivel de confianza y explicación vinculada a una versión de las normas.
3. Un motor determinista comprueba límites y evita saltos arbitrarios en la escala.
4. Una persona autorizada revisa los casos que pueden producir una medida relevante.
5. Se registra motivo, norma, medida, revisión y plazo de apelación.

5. Acciones automáticas limitadas

El contenido con indicios de riesgo alto puede ocultarse cautelarmente para reducir daño mientras se revisa. Esa medida provisional no equivale por sí sola a confirmar una infracción ni debe generar automáticamente un aviso o suspensión definitiva.

6. Errores y límites

La IA puede confundir ficción, ironía, dialectos, contexto cultural, citas, lenguaje recuperativo o ruido de transcripción. También puede no detectar daño real. Por eso se realizan evaluaciones por categoría e idioma, se mide el impacto y se mantiene un canal de revisión.

7. Información y apelación

Si una decisión te afecta, debes recibir una explicación comprensible, la regla aplicada, la medida, su duración y cómo apelar. La apelación será gratuita y revisada por una persona autorizada. Puedes contactar en [email protected].

8. Privacidad y mejora de modelos

Autorizar transcripción no autoriza automáticamente entrenamiento, análisis de estilo o mejora de IA. Cada uso opcional basado en consentimiento debe tener control separado, finalidad, destinatarios, conservación y retirada. Consulta Privacidad.

9. Auditoría antes de producción

• Proveedor y ubicaciones documentados.
• Evaluación de privacidad, seguridad y menores.
• Conjunto de pruebas en español por categoría y contexto narrativo.
• Umbrales, falsos positivos y falsos negativos medidos.
• Roles humanos, formación, tiempos de respuesta y apelación operativos.
• Registro de versión, motivos y rollback comprobado.