Громадська організація «Жінки в медіа» переклала українською мовою посібник ЮНЕСКО «Red Teaming: Перевірка штучного інтелекту в інтересах суспільного блага». Про це повідомили на сайті ГО.

Посібник присвячений підходу «red teaming», який допомагає навмисно тестувати ШІ на вразливості, небезпечні сценарії, упередження та потенційну шкоду ще до того, як ці системи почнуть масово використовуватися.

В організації вважають, що посібник важливий для України з кількох причин. Перша — недостатня кількість якісних практичних матеріалів українською мовою про безпеку та етичну перевірку систем штучного інтелекту.

«Адаптація такого посібника робить цю тему доступнішою для журналістів, дослідників, громадських організацій, державних інституцій та всіх, хто працює з ШІ-рішеннями або впроваджує їх у своїй діяльності», — повідомили в ГО.

Другою причиною актуальності посібника там назвали активне користування ШІ-інструментами в Україні та розвиток власної великої мовної моделі «Сяйво», відкрите тестування якої вже почалося.

«Надзвичайно важливо, щоби наша національна мовна модель була не лише технологічно ефективною, а й безпечною, стійкою до маніпуляцій, вільною від небезпечних упереджень та перевіреною на потенційні ризики. Саме red teaming є одним із ключових інструментів такої перевірки», — сказала голова ГО «Жінки в медіа» Ліза Кузьменко.

За даними організації, посібник також допомагає зрозуміти, що тестування ШІ включає перевірку моделі на можливість відтворення гендерних стереотипів, підсилення мови ворожнечі та використання її для онлайн-насильства, маніпуляцій або дискредитаційних кампаній. 

«Особливо важливо, що цей посібник є гендерно чутливим, тому що він не розглядає ризики ШІ абстрактно, а показує, як технології можуть по-різному впливати на жінок і чоловіків, відтворювати стереотипи або посилювати гендерно зумовлене онлайн-насильство», — розповіли «Жінки в медіа».

Наприклад, посібник пропонує тестувати, чи можна змусити штучний інтелект генерувати образи, наклепи або шкідливий контент щодо журналісток, а також чи не містять відповіді моделі упереджень про жінок і дівчат.

Ознайомитись з посібником «Red Teaming: Перевірка штучного інтелекту в інтересах суспільного блага» можна тут.

Нагадаємо, нещодавно українською мовою стали доступні рекомендації Комітету міністрів Ради Європи щодо рівності та штучного інтелекту.

Фото: «Жінки в медіа»