Що таке textGrain і як це працює
OpenAI анонсувала впровадження невидимих текстових водяних знаків під назвою textGrain для відповідей, згенерованих ChatGPT та Codex. Технологія додає статистичний сигнал під час вибору слів моделлю і робить текст машинозчитуваним для спеціальних інструментів виявлення.
Компанія створила детектор, що перевіряє наявність цього прихованого сигналу, і описала рішення детальніше в блозі, де йдеться про підхід і технічні особливості йдеться. Така схема не змінює видимий текст для читача боїться має працювати на бекенді під час генерації.
Кому і коли додаватимуться водяні знаки
Рішення прийнято у відповідь на вимоги Закону ЄС про штучний інтелект (EU AI Act). Упродовж найближчих тижнів водяні знаки автоматично додаватимуться до відповідей ChatGPT та Codex для користувачів у Європейському Союзі, що має виконати норму про машинозчитуване виявлення згенерованого тексту.
Для розробників, які використовують API OpenAI по всьому світу, функція буде доступна за бажанням і її можна буде увімкнути вручну. На першому етапі доступ до детектора отримають лише затверджені дослідники та експертні організації, а згодом компанія планує випустити технологію з відкритим вихідним кодом.
Чи вплине це на якість відповідей і які є обмеження
OpenAI стверджує що впровадження водяних знаків не впливає на якість згенерованих відповідей та продуктивність моделей включно з Astra. Це означає що звичайні користувачі не помітять змін у формулюванні чи швидкодії під час роботи з моделями.
Водночас компанія підкреслює наявні технічні обмеження і просить розглядати технологію лише як один із інструментів верифікації. У своїй заяві OpenAI наголосила наступне
«Текстовий водяний знак не вимірює внесок людини, не встановлює право власності, не ідентифікує особу користувача та не підтверджує достовірність інформації»
Це означає що textGrain допомагає відслідковувати походження автоматично згенерованого тексту але не вирішує питання авторства або правдивості змісту самостійно.
