Управление и доверие

Для публичного ИИ нужны понятные правила.

GOV.AI создаётся для среды, в которой неверный ответ, устаревший источник или несанкционированный доступ — не мелочи. Управление — неотъемлемая часть продукта.

01

Сначала источник, затем ответ.

Фактическая информация о муниципалитете должна опираться на определённые и отслеживаемые источники.

Разрешённые источники

Домены, базы данных и документы определяются для каждого варианта использования.

Ссылки на источники

Интерфейс может указывать использованный источник и отделять его содержание от интерпретации.

Нет подтверждения

Если данных недостаточно, система должна обозначить ограничение и направить пользователя в официальный канал.

02

Доступ с учётом контекста.

Не вся внутренняя информация предназначена для всех пользователей.

Граждане

Только общедоступная информация и рекомендации без аутентификации.

Команда

Разрешённый внутренний контент с учётом роли и необходимости.

Чувствительные действия

Операции, решения и персональные данные требуют отдельных процессов, надлежащей аутентификации и проверки.

03

Проверка человеком и развитие.

Управление не заканчивается запуском. Вопросы, сбои и изменения источников должны учитываться в процессе постоянного обслуживания.

01

Наблюдать

Какие вопросы задают и где ИИ ошибается.

02

Проверять

Источники, ответы и чувствительные случаи.

03

Исправлять

Контент, правила и интеграции.

04

Документировать

Изменения и решения по продукту.

Хотите обсудить риски до демонстрации?

Можно начать с архитектуры источников, разрешений, проверки и ограничений конкретного варианта использования.

Обсудить управление ↗