Вопрос надзора за развитием искусственного интеллекта переместился с научных конференций в плоскость межправительственных переговоров. Причина проста: модели общего назначения развиваются быстрее, чем национальные законодатели успевают принимать нормы, а последствия их применения не останавливаются на государственных границах.
Почему национального регулирования оказалось недостаточно
Государства, которые уже приняли собственные правила, столкнулись с одинаковой проблемой. Разработчик может зарегистрировать компанию в одной юрисдикции, обучать модель на мощностях во второй, а предоставлять услуги пользователям в десятках других стран. Формально при этом ни одно из национальных правил не нарушается.
Дополнительная сложность в том, что требования разных стран часто противоречат друг другу. То, что в одной юрисдикции считается обязательным раскрытием данных о тренировочной выборке, в другой может конфликтовать с законодательством о коммерческой тайне.
Какие модели надзора обсуждают
Агентство по образцу атомной отрасли
Чаще всего упоминают структуру, похожую на международное агентство по атомной энергии: орган с правом инспектировать самые мощные вычислительные кластеры и проверять соблюдение протоколов безопасности перед выпуском моделей в коммерческое использование.
Противники такого подхода указывают на разницу между ядерными материалами и программным обеспечением. Ограничить оборот обогащённого урана технически возможно, а вот копирование весов модели не требует ничего, кроме канала связи.
Реестр моделей и сертификация
Смягчённый вариант предполагает не надзор за разработкой, а обязательную регистрацию систем, которые применяются в критических сферах: медицине, кредитном скоринге, судопроизводстве, управлении инфраструктурой. Разработчик обязан описать назначение системы, ограничения и процедуру обжалования её решений.
Для финансового рынка именно этот сценарий наиболее вероятен. Банки и страховые компании уже работают под надзором регуляторов, так что требования к алгоритмам логично встроятся в имеющиеся процедуры.
Что это означает для бизнеса
- Компаниям, которые используют ШІ в работе с клиентами, стоит заранее документировать, как принимаются автоматизированные решения.
- Растёт ценность поставщиков, готовых предоставить техническую документацию и результаты тестирования модели.
- Расходы на соответствие требованиям станут частью бюджета на внедрение, а не единоразовой статьёй.
Окончательных решений пока нет, и переговорный процесс растянется как минимум на несколько лет. Но направление уже понятно: эпоха, когда алгоритм можно было запустить без объяснения принципов его работы, подходит к концу.
Подробнее о существующих подходах к регулированию можно прочитать на сайте ОЕСР.
