Gobernanza y confianza

La IA pública necesita reglas claras.

GOV.AI está pensado para entornos en los que una respuesta errónea, una fuente desactualizada o un acceso indebido no son detalles sin importancia. La gobernanza forma parte del producto.

01

La fuente, antes que la respuesta.

La información municipal objetiva debe basarse en fuentes definidas y trazables.

Fuentes permitidas

Los dominios, las bases de datos y los documentos se definen según cada caso de uso.

Citas

La interfaz puede mostrar la fuente utilizada y diferenciarla de la interpretación.

Sin confirmación

Cuando no hay pruebas suficientes, la respuesta debe reconocer sus límites y dirigir al canal oficial.

02

Permisos según el contexto.

No toda la información interna debe estar al alcance de todos los usuarios.

Ciudadanía

Solo información pública y orientación sin autenticación.

Equipo

Acceso al conocimiento interno autorizado según la función y las necesidades.

Acciones sensibles

Las operaciones, las decisiones y los datos personales requieren flujos específicos, autenticación y una revisión adecuada.

03

Revisión humana y evolución.

La gobernanza no termina con el lanzamiento. Las preguntas, los fallos y los cambios en las fuentes deben servir para mantener el sistema de forma continua.

01

Observar

Qué preguntas se plantean y en qué falla la IA.

02

Revisar

Las fuentes, las respuestas y los casos sensibles.

03

Corregir

El contenido, las reglas y las integraciones.

04

Documentar

Los cambios y las decisiones sobre el producto.

¿Necesita hablar de los riesgos antes de la demostración?

Podemos empezar por la arquitectura de fuentes, permisos, revisión y límites del caso de uso.

Hablar sobre gobernanza ↗