ЮРИСТ КОНСУЛЬТУЄ. Рекомендації щодо безпеки ШІ
Під час AI Safety Summit, що відбувся на початку листопада 2023 року у Великій Британії та був присвячений проблематиці ШІ, його розвитку та безпеці, окремо було наголошено на важливості кібербезпеки та підходу до розробки штучного інтелекту на основі «безпечного дизайну».
Відтак Національний центр кібербезпеки Великої Британії (NCSC) спільно з Агентством з кібербезпеки та безпеки інфраструктури США (CISA) презентували перший у своєму роді документ – Рекомендації з розробки безпечних систем штучного інтелекту. В розробці Рекомендацій брали участь провідні експерти галузі, 21 міжнародна агенція та міністерства з усього світу – включно з усіма членами групи країн G7 і Глобального Півдня. Наразі 18 країн схвалили Рекомендації.
«Ці рекомендації відзначають значний крок у формуванні справді глобального загального розуміння кіберризиків і стратегій пом’якшення, пов’язаних із штучним інтелектом, щоб гарантувати, що безпека є не підсумком розробки, а основною вимогою в усьому» – каже Лінді Камерон, генеральний директор NCSC.
Рекомендації містять способи поведінки, які допоможуть покращити безпеку та охоплюють чотири ключові сфери в рамках життєвого циклу розробки системи ШІ, а саме:
- Безпечний дизайн.
Розділ містить рекомендації щодо етапу проектування систем ШІ та охоплює розуміння ризиків і моделювання загроз, а також конкретні теми та компроміси, які слід враховувати при проектуванні системи та моделі.
- Безпечний розвиток.
Розділ охоплює етап розробки системи ШІ, включаючи безпеку ланцюга постачання, документацію та технічне управління
- Безпечне розгортання.
У цьому розділі містяться вказівки, які застосовуються до етапу розгортання розробки системи ШІ, включаючи захист інфраструктури та моделей від компрометації, загрози чи втрати, розробку процесів управління інцидентами та відповідальний випуск.
- Безпечна експлуатація та обслуговування.
Розділ присвячений вказівкам, які стосуються етапу безпечної експлуатації та обслуговування циклу розробки системи ШІ. Він містить вказівки щодо дій, особливо актуальних після розгортання системи, включаючи журналювання та моніторинг, керування оновленнями та обмін інформацією.
Рекомендації є першими у своєму роді, узгодженими у всьому світі. Вони допоможуть розробникам систем, які використовують штучний інтелект, приймати обґрунтовані рішення щодо кібербезпеки на кожному етапі процесу розробки – незалежно від того, чи були ці системи створені з нуля чи побудовані на основі інструментів і послуг, наданих іншими.
«Ці спільні зусилля ще раз підтверджують нашу місію щодо захисту критично важливої інфраструктури та посилюють важливість міжнародного партнерства для забезпечення нашого цифрового майбутнього» - резюмує Джен Істерлі, директор CISA.
Нагадаємо, що 1 та 2 листопада 2023 року у Великій Британії відбувся перший саміт з безпеки штучного інтелекту, який об’єднав уряди багатьох країн, провідні технологічні організації, наукові кола та громадянське суспільство, щоб поінформувати про швидкі національні та міжнародні дії на передовій розвитку ШІ. За результатами зустрічі було прийнято Декларацію Блетчлі, яку підписали 28 країн, в тому числі і Україна.
