Питання нагляду за розвитком штучного інтелекту перемістилося з наукових конференцій у площину міжурядових переговорів. Причина проста: моделі загального призначення розвиваються швидше, ніж національні законодавці встигають ухвалювати норми, а наслідки їхнього застосування не зупиняються на державних кордонах.
Чому національного регулювання виявилося замало
Держави, які вже ухвалили власні правила, зіткнулися з однаковою проблемою. Розробник може зареєструвати компанію в одній юрисдикції, навчати модель на потужностях у другій, а надавати послуги користувачам у десятках інших країн. Формально жодна з національних норм при цьому не порушується.
Додаткова складність у тому, що вимоги різних країн часто суперечать одна одній. Те, що в одній юрисдикції вважається обовʼязковим розкриттям даних про навчальну вибірку, в іншій може конфліктувати із законодавством про комерційну таємницю.
Які моделі нагляду обговорюють
Агенція за зразком атомної галузі
Найчастіше згадують структуру, подібну до міжнародного агентства з атомної енергії: орган із правом інспектувати найпотужніші обчислювальні кластери та перевіряти дотримання протоколів безпеки перед випуском моделей у комерційне користування.
Противники такого підходу вказують на різницю між ядерними матеріалами та програмним забезпеченням. Обмежити обіг збагаченого урану технічно можливо, а от копіювання ваг моделі не вимагає нічого, крім каналу звʼязку.
Реєстр моделей і сертифікація
Помʼякшений варіант передбачає не нагляд за розробкою, а обовʼязкову реєстрацію систем, які застосовуються у критичних сферах: медицині, кредитному скорингу, судочинстві, управлінні інфраструктурою. Розробник зобовʼязаний описати призначення системи, обмеження та процедуру оскарження її рішень.
Для фінансового ринку саме цей сценарій найбільш імовірний. Банки й страхові компанії вже працюють під наглядом регуляторів, тож вимоги до алгоритмів логічно вбудовуються в наявні процедури.
Що це означає для бізнесу
- Компаніям, які використовують ШІ в роботі з клієнтами, варто заздалегідь документувати, як ухвалюються автоматизовані рішення.
- Зростає цінність постачальників, готових надати технічну документацію та результати тестування моделі.
- Витрати на відповідність вимогам стануть частиною бюджету на впровадження, а не разовою статтею.
Остаточних рішень поки немає, і переговорний процес розтягнеться щонайменше на кілька років. Але напрям уже зрозумілий: епоха, коли алгоритм можна було запустити без пояснення принципів його роботи, завершується.
Детальніше про наявні підходи до регулювання можна почитати на сайті ОЕСР.
