Deepfake-ը՝ հանրային, մասնավոր կյանքի սպառնալիք․ ինչպես են պայքարում երկրները դրա դեմ

Հռոմի պապը՝ գանգստերի հանդերձանքով, ՌԴ-ից տարածքներ բռնակցող Թրամփ, թուրքերեն խոսող Փաշինյան և այլն․ այս և նմանօրինակ սկանդալային նյութերը հաճախակի են իրարանցում առաջացնում տեղեկատվական տիրույթում։ Իսկ դրանց տարածումն ու առցանց քննարկումը վկայում են, որ լսարանի մի զգալի մասը հավատացել է տեսածին ու լսածին։  

Վերևում հիշատակված բոլոր օրինակները deepfake են: 

Սակայն ի՞նչ է այդ deepfake-ը:

Արդեն հայտնի է, որ արհեստական բանականությունը թույլ է տալիս օգտագործելով մարդկանց՝ հատկապես հայտնիների (աստղեր, քաղաքական գործիչներ և այլն) ձայնը, արտաքինն ու այլ տվյալները՝ ստեղծել տեսանյութ, լուսանկար կամ ձայնագրություն, որը հաճախ չափազանց իրական է թվում։ 

Իրականում, սակայն, այն կամ մանիպուլացված է՝ խմբագրված, կամ ամբողջությամբ կեղծ նյութ է․ փաստացի, deepfake-ն արհեստական բանականությամբ գեներացված տեղեկություն է, որը քաղաքական կամ հանրային կյանքի այլ ոլորտների վերաբերյալ կեղծ բովանդակություն է տարածում՝ արժանահավատ թվալով լսարանին:

Արդեն հայտնի է, որ deepfake-ը մեծ հնարավորություններ է ստեղծում նաև հանցավոր գործունեությամբ զբաղվողների համար․ օրինակ՝ deepfake ձայնագրությունների կամ տեսանյութերով դրամական խաբեություններ՝ բանկերից կամ ընկերություններից գումար հանելու համար և այլն։ 

Լայն տարածում ունեն նաև պոռնոգրաֆիկ deepfake-ները, երբ մարդկանց դեմքերը դրվում են պոռնոգրաֆիկ տեսանյութերի վրա՝ առանց նրանց համաձայնության, անգամ իմացության, անձնական այլ իրավունքներ խախտում և այլն։ 

Նման դեպքերում բովանդակություն ստեղծողները հիմնականում սպառնալիքի միջոցով գումար են կորզում «զոհից»՝ սպառնալով տարածել deepfake-ը։ 

Չնայած հայաստանյան տեղեկատվական տիրույթում deepfake տեխնոլոգիայի տարածմանն ու լայն կիրառմանը, ինչպես նաև դրա հետևանքով առաջացող խնդիրներին՝ մեր երկրում դեռևս չկա համապատասխան օրենսդրություն: Դեռևս հստակ չէ նաև, թե արդյո՞ք առկա իրավական կարգավորումների շրջանակում խնդիրը հասցեագրվում է, թե՞ ոչ։

Տեղեկատվական անվտանգության մասնագետ Սամվել Մարտիրոսյանն իր ֆեյսբուքյան էջում անդրադարձել է այսպիսի deepfake-ներին և խորհուրդներ տվել՝ ինչպես վարվել։ 

«Փաստերի ստուգման հարթակը» բազմիցս առիթ ունեցել է ստուգելու քաղաքական գործիչների, աստղերի մասնակցությամբ, ինչպես նաև ֆինանսաբանկային ոլորտին վերաբերող deepfake տեսանյութեր, ներկայացրել դրանք բացահայտելու և ստուգելու մեթոդներն ու առցանց գործիքները։ 

Deepfake-ի դեմ արդեն սկսել են պայքարել ոչ միայն փաստեր ստուգողները, այլ երկրների կառավարություններն ու միջազգային կառույցները՝ թարմացնելով տեղեկատվական անվտանգության վերաբերյալ իրենց օրենսդրությունը և ընդունելով նոր կոնվենցիաներ։ 

FIP.am-ն ուսումնասիրել է deepfake-ի դեմ պայքարի միջազգային օրենսդրական փորձը։ 

ԱՄՆ․ համապարփակ կարգավորում դեռևս չկա

Միացյալ Նահանգներում խնդրի կարգավորման դաշնային համապարփակ օրենք դեռևս չկա․ ըստ ամերիկյան աղբյուրների՝ համապատասխան նախագիծը մշակման փուլում է և նպատակ ունի պաշտպանելու ազգային անվտանգությունը deepfake տեխնոլոգիայի սպառնալիքներից: 

Չնայած սրան՝ խնդիրը հասցեագրող որոշ օրենքներ, այդ թվում՝ նահանգային մակարդակում, ընդունվել են։ 

Մասնավորապես, «Արհեստական բանականությամբ (ԱԲ) գեներացվող հակադիր ցանցերի կիրառման և վերահսկման մասին օրենքը»  (Generative Adversarial Networks Act) սահմանում է, որ Ազգային գիտական ​​հիմնադրամի տնօրենը պետք է աջակցի այդպիսի նյութերի և ապագայում մշակվող այլ նմանօրինակ տեխնոլոգիաների, դրանց կիրառման  ստանդարտների մշակմանը և հետազոտություններին:

«Դիփֆեյքի համար պատասխանատվության օրենքով» (Deepfakes Accountability Act)   առաջարկվում է պարտադիր դարձնել բովանդակության վրա հղումը ԱԲ-ին, զգուշացումը, եթե այն ստեղծված է ԱԲ-ով, հատկապես եթե այն կարող է մոլորեցնել կամ վնասել։​

Կալիֆոռնիա նահանգում, օրինակ, կան ինչպես քաղաքական դաշտի, այնպես էլ մասնավոր կյանքի վերաբերյալ կարգավորումներ։ Օրինակ՝ արգելվում է ընտրություններից 60 օր առաջ հակաքարոզ պարունակող deepfake-երի տարածումը, նման դեպքերում տուժող կողմը կարող է դիմել դատարան։  

Չհամաձայնեցված ինտիմ բովանդակության մասով նահանգային Քաղաքացիական օրենսգիրքն արտոնում է դատական հայց ներկայացնել, եթե ինչ-որ մեկն առանց մյուսի համաձայնության օգտագործել է նրա դեմքը՝ պոռնոգրաֆիկ deepfake ստեղծելու նպատակով։

Որոշ նահանգներում, օրինակ Տեխասում, առհասարակ, deepfake-ների ստեղծումը և տարածումը՝ վնաս պատճառելու նպատակով, քրեորեն պատժելի է։ 

Deepfake-ի ստեղծումն ու տարածումը քրեականացված են նաև Մեծ Բրիտանիայում և Հարավային Կորեայում, եթե դրանք պարունակում են պոռնոգրաֆիկ բաղադրիչ, խախտում են մարդու անձնական կյանքի ու մի շարք այլ իրավունքներ։ 

Արհեստական բանականության մասին Եվրոպայի Խորհրդի կոնվենցիան 

2024 թվականին Եվրոպական խորհուրդն ընդունեց «Արհեստական բանականության և մարդու իրավունքների, ժողովրդավարության և օրենքի գերակայության մասին» Եվրոպայի խորհրդի շրջանակային կոնվենցիան, որին ավելի ուշ միացել է նաև Հայաստանը։ 

Ըստ էության, այն առաջին միջազգային փաստաթուղթն է, որը միտված է ապահովելու մարդու հիմնարար իրավունքների պաշտպանությունը արհեստական բանականության (ԱԲ) կիրառման ոլորտում։ 

Կոնվենցիայի հիմնական նպատակներն են՝ 

Մարդու իրավունքների պաշտպանություն․ ապահովել, որ ԱԲ համակարգերը չխախտեն մարդու հիմնարար իրավունքները։​ 

Ժողովրդավարության և օրենքի գերակայության պահպանում․ կանխել ԱԲ-ի օգտագործումը, որը կարող է վնասել ժողովրդավարական ինստիտուտներին կամ օրենքի գերակայությանը։​ 

Խտրականության բացառում․ արգելել ԱԲ համակարգերի կողմից ռասայական, կրոնական, սեռային կամ այլ հիմքերով խտրականությունը։​ 

Անձնական տվյալների պաշտպանություն․ կանխել ԱԲ-ի միջոցով անձնական տվյալների չարաշահումը։​ 

ԱԲ նյութերի մակնշման պահանջ

2023 թվականի Չինաստանում օրենքով պահանջվում է արհեստական բանականությամբ գեներացված բովանդակության հստակ մակնշում՝ ներառյալ watermark-ի  (ջրանիշեր՝ հեղինակային իրավունքի կողմնորոշիչ) օգտագործում և մետատվյալներ՝ ապատեղեկատվության դեմ պայքարելու և թափանցիկությունը ապահովելու նպատակով։ 

Առանց այս պահանջների ԱԲ-ով գեներացված որևէ նյութ տարածելու դեպքում նախատեսված են տուգանքներ։ 

Այսպիսով, չնայած արհեստական բանականության տեխնոլոգիաներն օրեցօր կատարելագործվում են և դրանց միջոցով ստեղծվում են ավելի իրական թվացող deepkafe-ներ, աշխարհում դեռևս համապարփակ կարգավորումներ չկան։  

Միևնույն ժամանակ, մի շարք երկրների օրենսդրական կարգավորումները հուշում են, որ deepkafe-ի դեմ պայքարի տենդենցներն են՝ թափանցիկության պահանջի սահմանումը՝ լսարանի պարտադիր պատշաճ տեղեկացումը ԱԲ բովանդակության մասին, առանց անձի համաձայնության deepfake բովանդակության ստեղծման և տարածման քրեականացումը, ընտրական պրոցեսների ընթացքում deepfake-ների օգտագործումը կանխող օրենքների ներդրումը, վնասելու նպատակով deepfake ստեղծող հարթակների հայտնաբերումը և արգելափակումը։  

Նանե Մանասյան