Google сделала общедоступной свою ИИ-платформу для проверки комплаенса под названием Checks. Здесь три новых функции, которые должны проверять приложения (то есть их функциональность), код приложений, а далее и ИИ-модели (если они есть в приложении, эта функция в бета-статусе). Проверка на соответствие нормативным требованиям, включая хранение персональной информации, требования государственного регулирования, и то, не будет ли ИИ-модель «говорить невпопад», давая противоречивые, неуместные, или вовсе противозаконные ответы.
Checks — один из «птенцов» инкубатора Google, говорит Фергюс Херли, соучредитель и генеральный директор Checks.
Прежде чем сделать продукт доступным публике, его испробовали на крупных клиентах.
«Пять лучших приложений для социальных сетей, пять лучших игр, пять лучших финансовых приложений. Эти компании имеют очень хорошие ресурсы, но у них не было понимания. Мы устраняем разрыв между командами разработчиков и командами по соблюдению нормативных требований».
Комплаенс приложений
App Compliance проверяет приложение, веб-сайт или сервис на предмет соблюдения правил сбора пользовательских данных. Имеется в виду соответствие закону GDPR в Европе, CCPA в Калифорнии и LGPD в Бразилии.
App Compliance проводит анализ публичного приложения на соответствие политике конфиденциальности компании. Эта проверка опирается на LLM, настроенный на понимание политик конфиденциальности, сопоставление их с тем, что приложение или продукт делает на самом деле. Выполняется как динамический, так и статический анализ. Checks запускает приложения на реальных физических девайсах и отслеживает сетевой трафик, исходящий от приложений, а также оценивает user experience.
Как утверждает директор Checks, программа «умеет играть в игры, логиниться в приложение, если предоставлены учетные данные для входа». Юридические советы давать Checks пока не умеет, ограничиваясь инсайтами по улучшениям и предупреждениями.
Комплаенс кода
Code Compliance, находящаяся в стадии закрытого бета-тестирования (очередь на подписку), показывает проблемы, связанные с регулированием, до публикации приложения. Функцию можно интегрировать в IDE и получать оповещения непосредственно в IDE.
Code Compliance ориентирован в основном на critical issues, в частности связанные с безопасностью, а также дает подсказки по просроченным SDK и подобное.
AI Safety
Что касается безопасности генеративных ИИ-моделей в приложениях, Checks ориентирован на проверку насилия, разжигания ненависти и безопасности хранения пользовательских данных. Производится проверка на легкость взлома ИИ-модели в приложении, а также на обход защиты премиум-версий приложений при помощи ИИ.
