«Белый дом дал указания федеральным агентствам, как использовать ИИ для повышения эффективности. Здесь приведены 7 ключевых рекомендаций для федеральных агентств, которые внедряют ИИ-процессы, для ответственного использования ИИ при разработке программного обеспечения.
- Создайте инфраструктуру. Начните с создания поддерживающей инфраструктуры для управления рисками, связанными с безопасностью и конфиденциальностью.
- Управление отчетностью и рисками. Для «высокоэффективного ИИ» — определяемого как ИИ, результаты которого служат основой для принятия решений, имеющих значительные юридические и материальные последствия — агентства должны внедрить методы управления рисками. Они включают в себя тестирование перед развертыванием, комплексную оценку импакта ИИ и непрерывный мониторинг производительности и потенциальных негативных последствий. Агентства должны обеспечивать человеческий надзор и вмешательство, где это необходимо, и обладать средствами правовой защиты для лиц, пострадавших от решений, принятых с помощью ИИ.
- Регулярно тестируйте и валидируйте модели. Федеральным агентствам необходимо будет постоянно проводить проверку и тестирование эффективности моделей ИИ. При закупке ИИ-систем или сервисов агентствам следует добиваться проведения подробных демонстраций и тестов в окружениях, в точности отражающих реальные условия работы.
- Мониторинг и измерение. Следует наладить процессы измерения, мониторинга и оценки использования ИИ-приложений как можно раньше — в идеале, до начала использования.
- Обновление политик. Федеральные агентства должны обновить свои внутренние политики для эффективной интеграции ИИ. В частности, агентства должны пересмотреть и пересмотреть политики, связанные с:
- ИТ-инфраструктурой, включая программные инструменты и управление кодом.
- Данными, включая инвентаризацию данных и доступ к ним.
- Кибербезопасностью, включая системы авторизации и мониторинга.
- Конфиденциальностью, чтобы привести ее в соответствие с использованием ИИ.
Также:
- Создайте библиотеку юзкейсов. Затраты времени на создание задокументированного и проверенного набора юзкейсов. Кроме того, федеральные агентства обязаны создавать и публично распространять реестры своих юзкейсов, включая те, которые связаны с генеративным ИИ.
- Создайте хорошую команду. Успешное внедрение ИИ зависит от наличия квалифицированной рабочей силы. Агентства должны уделять внимание набору, найму, обучению и удержанию технических специалистов на должностях, связанных с ИИ. Также необходимо достижение грамотности в области ИИ для нетехнических специалистов.»
