Як та коли в Україні може запрацювати регулювання штучного інтелекту. Розповідає Анна Булах з Respeecher

Анна Булах розповідає про перспективи регулювання ШІ в Україні. Джерело: Delo.ua
Анна Булах розповідає про перспективи регулювання ШІ в Україні. Джерело: Delo.ua

Нещодавно Мінцифри оновило склад комітету з питань штучного інтелекту (ШІ). Зараз туди увійшли 53 галузевих фахівця, які працюють у бізнесі, освіті, відомствах. Найближчим часом експерти мають допомогти Мінцифри розібратися у важливому питанні: як в Україні має виглядати регулювання штучного інтелекту. 

Тож чи варто регулювати ШІ під час війни? Яка модель регулювання найбільш перспективна для нашої країни? Скільки часу потрібно для розробки відповідного законодавства? Про все це в інтерв’ю Delo.ua розповідає Анна Булах, голова з етики ШІ та партнерства у Respeecher та член комітету ШІ при Мінцифри. В комітеті вона займається одразу двома напрямками: регулювання штучного інтелекту та ШІ у секторі безпеки та оборони.

Прокачайте маркетинг-стратегію свого бізнесу та знайдіть нові канали взаємодії з аудиторією на MRKTNG марафоні від MMR та Ekonomika+
25 червня топменеджери Ощадбанку, Укрзалізниці, NOVA (Нової пошти), Kernel, Ковальська та ще 25+ великих компаній розкажуть, які стратегії та канали просування підійдуть саме вашому бізнесу.
Забронювати участь

Спікерка біля 10 років працювала в політиках безпеки та оборони за кордоном. Зокрема, в Чехії це був Празький інститут досліджень безпеки при МЗС, в Естонії - Міжнародний центр оборони та безпеки при Міноборони. 

В 2016-2017 роках експертка  запускала проект "Стійка Україна" від Естонії. Експертка займалася темою інформаційної безпеки, кібербезпеки. 

В 2017-2018 роках Анна Булах повернулася в Україну та приєдналась до технологічного сектору. Тоді вона працювала в напрямках, як боротьба з дезінформацією в режимі онлайн, а також штучний інтелект в розрізі безпеки технології.

Також Булах працювала у відомому українському додатку Reface. Проєкт відноситься до синтетичних візуальних медіа. 

Зараз Анна працює в Respeecher. Цей проєкт також відноситься до синтетичних аудіальних медіа. Тобто, в продукті використовується голос.

Розкажіть, про синтетичні медіа. Які саме питання ви вирішуєте в таких проєктах?

- Зараз в синтетичних медіа я сконцентрована на роботі в двох напрямках. 

Перше. Я займаюсь питаннями налаштування внутрішньої безпеки. Моя робота не пов’язана з моральністю в прямому сенсі, але технології мають бути безпечними. Це важливий аспект, оскільки технології можуть бути задіяні проти людей. 

Наприклад, хтось може спробувати використовувати голос або обличчя без дозволу людини. Тому фахівці мають розробити такі процеси, що дозволять протидіяти діпфейкам та відстежувати такі спроби крадіжки особистих даних. 

Друге. Я займаюсь відбудовою кооперації між компаніями, які допомагають створити найкращі практики в різних напрямках. Зокрема, зараз багато співпрацюю із Adobe, Microsoft. 

Як правило, технологічні компанії швидко напрацьовують такі практики, оскільки вони розуміють, де технологія може принести небезпеку. Тож такі практики потім можуть стати базою для створення регулювання ШІ з боку держави. 

Хочу зазначити, що регулювання має будуватися саме на базі публічно-приватного партнерства, саме тоді воно може бути ефективним. Чому? Вважаю, що регулювання навколо технологій не може створюватися централізовано та спускатися зверху. Адже інновації створюють саме технологічні компанії, тож вони знають краще, що саме відбувається на ринку.  

З появою ШІ світ заговорив про загрози цієї технології для суспільства та про необхідність його регулювання. Зокрема, люди не хочуть втратити робочі місця. Чи дійсно ШІ може стати загрозою для людства?

- Давайте розберемо, що ж таке штучний інтелект. Для цього треба зрозуміти, чим саме ШІ відрізняється від звичайних лінійних алгоритмів. Це дуже швидка обробка даних та дуже швидка автоматизація рішень. Тобто, ШІ дуже швидко вчиться на великих масивах даних, на наших історичних рішеннях. Тому важливо, щоб люди спостерігали за всіма цими процесами та контролювали їх задля зменшення ризиків. 

Йдемо далі. Люди бояться, що штучний інтелект залишить їх без роботи. Але це неправда. Наприклад, є така професія як актор. В синтетичних медіа можна застосувати технології та дозволити такому актору заговорити різними голосами: чоловічим, жіночим, дитячим. Таким чином, людина може отримати більше проєктів для роботи. Тобто, автоматизація процесів надає більше можливостей. 

Тож якщо людина зможе адаптуватися до змін на ринку праці та навчиться використовувати технології, вона стане більш конкурентоспроможною. Такий шлях мають обрати всі, хто хочуть стати успішними та ефективними, - люди, компанії, уряди.

Інакше кажучи, з історичної точки зору технологічні інновації завжди призводили до переосмислення ролі людини у праці. Якраз на цьому етапі ми знаходимося. Тому люди мають усвідомити, що умови роботи можуть змінитися. Але я не вірю в те, що ШІ зможе замінити людей. В цьому питанні я завжди залишаюся оптимістом. 

А якщо говорити про захист приватних даних? Наскільки тут є небезпека з боку ШІ?

- В цьому напрямку є виклики, які ще треба буде вирішувати за допомогою регулювання. Як я вже говорила, індустрія ШІ базується на вивченні великих об’ємів даних. Багато інформації залишається в публічному просторі. Їх також можуть використовувати з метою навчання штучного інтелекту. Тож тут дуже тонкі моменти щодо питання приватності. Таких історій може бути багато. Давайте наведу пару прикладів.

Перша історія. Ми з вами розмовляємо, ви записуєте мій голос. Далі він з’явиться на YouTube. Тоді хтось може створити модель мого голосу без дозволу. Це вже порушення моїх прав як людини на приватність.

Друга історія. Хтось вирішив задіяти мій голос та створити пісню або казку. Також мого дозволу для цього ніхто не питав. Тут вже є проблема порушення інтелектуальних прав. 

На жаль, сьогодні всі ці моменти не підпадають під регулювання в жодній країні світу. Тож поки не зрозуміло, як люди можуть захистити свої права на приватність з законодавчої точки зору.  

Які виклики ШІ створив в напрямку кібербезпеки?

- З появою штучного інтелекту кібербезпека отримала багато викликів. Зокрема, це:

  • створення інформаційних меседжів за допомогою мовних моделей.
  • створення діпфейків  для інформаційних операцій.
  • автоматизація інформаційних кампаній.

Як це працює? В безпековому секторі можуть існувати два підходи:

1. Сам алгоритм приймає рішення автоматизовано для різних задач.

2. Людина використовує різні технології, зокрема, синтетичні медіа, та запускає інформаційні компанії. 

Тобто, ШІ дозволяє швидко автоматизувати будь-які процеси. І це дуже серйозний виклик для кібербезпеки будь-якої країни. 

Давайте поговоримо про іноземний досвід. У світі намагаються вирішити питання регулювання ШІ. Як це відбувається? 

- Ще декілька років тому регулювання ШІ фактично не існувало у світі. Тож компанії мали розпочати цей процес, щоб випрацювати найкращі практики, які б допомогли не використовувати технології проти людини. Як це відбувалось? Міжнародні компанії почали співпрацювати друг с другом. 

Зокрема, є така класний проєкт Content Authenticity Initiative. Я з ними працюю з 2019 року. В рамках цієї ініціативи ми розробили новий стандарт, як підписувати метаданими кожний цифровий контент. Це дозволяє людям у у інструментах для створення контенту чи платформах як Twitter побачити, що певний контент був частково або повністю створений ШІ. Цей підхід вирішує проблему маркування такої інформації.

Також з 2020 року ми із іншою міжнародною ініціативою Partnership on AI відпрацювали відповідальні практики, як використовуємо в синтетичних медіа.

Тобто, всі міжнародні компанії розробляють актуальні практики для безпечного використання технологій без залучення урядів. Цей сектор економіки завжди розвивається таким чином:

  • Спочатку компанії швидко рухаються, захоплюють ринок, охоплюють користувачів. 
  • Потім експерти та медіа розуміють, що технологія розширюється, забирає ринок, - і це створює певні безпекові проблеми. 
  • Після цього регулятор підключаються, оскільки розуміє, що потрібно створювати законодавчу базу. 

Треба зрозуміти, що спочатку йде інновація, далі адаптація нової технології до ринку. Потім в західних компаніях підключаються відповідні департаменти, які займаються напрямком безпечного використання технологій. До речі, така практика давно існує за кордоном. Але в Україні також починають використовувати такі підходи.

Іноземні країни мають різні підходи для регулювання ШІ. В інфографіці Анна Булах представила бачення щодо створення законодавчої бази у ключових регіонах світу. 

У світі використовують різні підходи для регуляцїї ШІ. Джерело: інтерв'ю Delo.ua

За кордоном одні країни йдуть шляхом централізованого регулювання ШІ, а інші країні обирають принцип публічно-приватного партнерства? 

- Саме так. В ЄС обрали централізований підхід в регулюванні. Там створено законодавство щодо захисту персональних даних. Навколо нього будується інша законодавча база для ШІ. Зокрема: 

  • Є закон DSA Digital Service Act, який регулює роботу таких платформ, як Facebook, Twitter та ін. 
  • Є регулювання по збору даних Data Act. 
  • Є законопроєкт для ШІ - AI Act. Зараз це регулювання відбудовується по рівнях ризику: найвищий, середній, найнижчій. Сам закон може бути прийнятий в 2024 році. 

На відміну від ЄС, в США та Великій Британії застосовано принцип партнерства. Тобто, десь за п’ять років бізнес розробив практики для безпечного застосування технологій. Тепер ці основи закладено в законодавче регулювання країн. 

Нещодавно Мінцифри зібрала представників комітету з питань ШІ при відомстві, щоб обговорити створення відповідного регулювання в Україні. Чи є в експертному колі розуміння, який підхід для розробки законодавства є найбільш прийнятним? 

- Робочу групу з питань ШІ при Мінцифри створили нещодавно. Тому можливості регулювання в Україні експерти планують вивчати десь до кінця  вересня. Зокрема, треба розібратися, за яким планом Україна має рухатися в питанні створення регулювання для ШІ. Для цього необхідно визначити цілі, як це свого часу зробили інші країни світу. Тут я бачу три ключові задачі.

Перше. Україна має дивитися на ШІ через призму безпеки та національних інтересів. Тобто, країна має підтримувати інновації в технологічному сектори, особливо в напрямку оборони та безпеки. 

Друге. Україна має враховувати тренди регулювання ШІ не тільки в нашій країні, а й за кордоном. Справа в тому, що технології швидко розвиваються у всьому світі, тож уряди впроваджують регулювання стосовно ШІ. Тому українське законодавство має адаптуватися до стандартів ЄС, США, інших країн. Це допоможе українським компаніям, що виробляють продукцію на експорт, швидше та ефективніше виходити на іноземні ринки. Такий підхід посилить конкурентоспроможність українського ШІ на міжнародному рівні. 

Третє. Україна має опікуватися такими питаннями, як захист приватності та захист прав людини. Це важливо, оскільки люди мають безпечно користуватися технологіями. 

Тож Україна має створювати власне законодавство? Як тоді наша країна може зробити технології безпечними для людей? 

- Хочу підкреслити, що Україна може створити базове регулювання ШІ, не копіюючи досвід іноземних держав, але треба адаптувати наше законодавство, зокрема, під стандарти ЄС. І це найкращій шлях, оскільки наша країна має потужну експертизу та великий досвід в питаннях діджиталізації. 

Щоб українське регулювання ШІ стало ефективним, потрібно впроваджувати принципи безпечної роботи технологій на рівні приватних компаній. Для цього треба побудувати так званий sandbox, де розробники можуть тестувати свої продукти та рішення до запуску на ринок. Зокрема, мова йде про перевірку інновації компаній на етичність, на упередженість моделей, на ризики дезінформації та ін. Це важливий аспект, оскільки користувач може написати ШІ якісь запит, а ШІ може видати якусь негативну, невірну інформацію. Такі ризики треба виключати одразу. 

Загалом всі ці проблеми має вирішувати відповідне регулювання ШІ. Тому уряд та компанії в рамках публічно-приватного партнерства мають створити своєрідні гайдлайни з поясненнями, де будуть відповіді на будь-які питання:

  • як працювати на ринку ЄС, США.
  •  як за кордоном вирішується проблема приватності даних.
  • як правильно зробити технології безпечними для людей тощо. 

Такий підхід допоможе не тільки зробити ШІ безпечними для людей, а й дозволить компаніям правильно відбудовувати бізнес-процеси для просування інновацій за кордоном. 

Можете розказати на прикладах, коли технологічний бізнес ігнорував законодавство та отримав через це великі проблеми?

- Нещодавній приклад – історія із Chat GPT. OpenAI вирішив запустити свій продукт швидко, тому компанія не перевірила, чи можуть виникнути ризики в ЄС. А там не можна вільно використовувати дані приватних користувачів. Італія та Ірландія заблокували Chat GPT, бо OpenAI збирала дані без дозволу. Як результат, спочатку компанія створила для себе великий ринок, але швидко почала його втрачати. Ось в чому полягала проблема із Chat GPT.

Мінцифри з експертами вже обговорювали такі підходи для створення регулювання ШІ в Україні: AI Act ЄС, британська модель, індуктивний підхід, власна законодавча база. В інфографіці Анна Булах представила плюси та мінуси цих варіантів регулювання ШІ.

Україна може використовувати різні моделі регулювання ШІ. Джерело: інтерв'ю Delo.ua

Як Україна може регулювати ШІ в секторі військових та оборонних технологій під час війни? З одного боку, треба підтримувати військові стартапи, з іншого – існують ризики кібервійни та інші небезпеки.

- В даному випадку нам потрібно використовувати принцип зонування: яким має бути регулювання ШІ під час війни та після перемоги.

Під час війни ми плануємо розробити законодавчу базу, яка не заважатиме використанню інновацій та технологій ШІ задля перемоги. 

Але після війни регуляція ШІ має допомогти Україні й надалі посилювати демократичність. Тому вже зараз експерти в комітеті з питань ШІ при Мінцифри хочуть створити бачення: як у мирний час держава має захищати права людини, зокрема, на приватність, адже технології збору даних активно розвиваються. 

Чому це важливо? Дивіться, існує технологія розпізнавання обличчя. Зокрема, громадяни можуть попадати на вулицях в об’єктиви камер. Ці дані влада може збирати та використовувати в різних цілях. Наприклад, для відслідковування ДРГ. Це необхідно задля перемоги. Але також існують ризики, що масиви даних можуть потрапити в руки злочинців.

Саме тому постає питання: як ці розробки будуть задіяні після перемоги в Україні, яка є демократичною державою? Важливо, щоб усі процеси стали прозорими та зрозумілими. Суспільство має уважно слідкувати: як уряд використовує технології за контролем населення та за збором даних. Влада має звітувати перед людьми та надавати всю необхідну інформацію, оскільки в українців є право на захист особистих даних та приватність. 

Чи є розуміння, скільки часу буде потрібно для створення в Україні законодавчої бази для ШІ? Чи вже визначені умовні дедлайни?

- Зараз в нас є вікно можливостей. Одно з них – це AI Act. За попередніми оцінками, цей закон можуть проголосувати у березні 2024 року. Тож Україна як потенційний член ЄС має надати свої пропозиції до цього документу до кінця 2023 року. 

Навіщо це нам? Ми - інноваційна країна. Багато країн ЄС не такі розвинені в технологічному плані. Ми розуміємо багато ризиків, які вони не розуміють. Тому важливо ділитися власним досвідом. 

Країни ЄС вже подали  багато коментарів до AI Act. Справа в тому, що в Європі поки немає консенсусу стосовно того, як має відбудовуватися регулювання ШІ. Кожна країна переслідує свої інтереси. Наприклад, Іспанія хоче запустити більше американських компаній на свій ринок ШІ. Для цього вони інвестували багато грошей в технологічний сектор країни та це є перша країна, яка запустила сендбокс. Тож країна бачить прагне поєднати розвиток ШІ ринку з залученням технологій з США з гармонізацією  з поглядами ЄС та підтримкой бізнесу у наданні безпечного середовища для тестування рішень на бази ШІ.  Також в ЄС є інший блок країн, які навпаки лобіюють жорстке регулювання ШІ. Тож яким буде в результаті AI Act – стане відомо через деякий час.

Загалом, коли в ЄС буде проголосовано AI Act, уряди країн ще матимуть два роки, щоб адаптувати своє законодавство та запустити національні ринки в нових умовах. Тому цього часу буде достатньо, щоб Україна почала робити перші кроки у створенні культури публічно-приватного партнерства, саморегуляції на засадах приближених до ЄС. Також ми маємо пояснювати, як ШІ впливатиме на безпеку громадян.