Алармантен подем на дипфејк порнографијата во училиштата

Дипфејк апликациите „nudify“ стануваат сè позастапени, при што стотици наставници виделе слики создадени од ученици, честопати од нивни врсници. Последиците се огромни – и брзо растат.

„Ме загрижува што е толку нормализирано. Очигледно не го криел тоа. Не сметал дека ова е нешто што не треба да го прави. Беше отворено и луѓето го видоа. Тоа е она што беше доста шокантно.“

Вака директорка на училиште опишува како тинејџер, седејќи во автобус на пат кон дома од училиште, случајно го извадил телефонот, избрал слика од социјалните медиуми од девојче од соседно училиште и користел апликација за „голотирање“ за да го манипулира нејзината фотографија.

Британски „Гардијан“ пишува дека пред десет години, секстингот и голотијата предизвикуваа хаос во училниците. Денес, напредокот во вештачката интелигенција (ВИ) го направија лесно генерирањето на длабоко лажни (дипфејк) голи слики или видеа, во кои се појавуваат оние што изгледаат како ваши пријатели, ваши соученици, па дури и ваши наставници. Ова може да вклучува соблекување облека, сугестивно движење на сликата или лепење на нечија глава на порнографска слика.

Директорката не знае зошто ова конкретно девојче – ученичка во нејзиното училиште – е избрана, дали момчето ја познавало или дали тоа било сосема случајно. Тоа ѝ го привлекло вниманието само затоа што го забележал друг нејзин ученик кој сфатил што се случува и го пријавил во училиштето.

Родителите биле контактирани, момчето било пронајдено и била повикана полицијата. Но, таква е стигмата и срамот поврзани со сексуалната злоупотреба врз основа на слики и споделувањето длабоко лажни слики што одлуката беше на девојката која беше цел да не и биде кажано.

„Девојката всушност дури и не знае“, рече раководителот. „Разговарав со родителите и родителите не сакаа таа да знае.“

Лесно достапна технологија

Момчето во автобусот е само еден пример за тоа како deepfakes и лесно достапната технологија за разголување се прикажуваат меѓу учениците – честопати со катастрофален ефект. Во Шпанија минатата година, 15 момчиња во југозападниот регион Екстремадура беа осудени на условна казна од една година откако беа осудени за користење на вештачка интелигенција за производство на лажни голи слики од нивните соученици, кои ги споделуваа на WhatsApp групи. Околу 20 девојчиња беа погодени, повеќето од нив на возраст од 14 години, додека најмладата имаше 11 години.

Во Австралија, околу 50 средношколци од граматичкото училиште Бахус Марш во Викторија пријавија дека нивните слики биле фалсификувани и дистрибуирани – мајката на еден ученик рече дека нејзината ќерка била толку ужасната од сексуално експлицитните слики повраќала. Во САД, повеќе од 30 ученички во средното училиште Вестфилд во Њу Џерси откриле дека deepfake порнографски слики од нив биле споделени меѓу нивните машки соученици на Snapchat.

Тоа се случува и во Велика Британија. Нова анкета на 4.300 наставници во средни училишта во Англија, спроведена од Teacher Tapp во име на Guardian, откри дека само еден од 10 биле свесни за тоа дека учениците во нивното училиште создавале „длабока, сексуално експлицитни видеа“ во последната академска година.

Три четвртини од овие инциденти вклучувале деца на возраст од 14 години или помлади, додека еден од 10 инциденти вклучувал 11-годишници, а 3% биле уште помлади, што покажува колку е лесен пристапот и користењето на технологијата. Меѓу наставниците што учествувале, 7% рекле дека биле свесни за еден инцидент, а 1% рекле дека се случил двапати, додека сличен процент рекле дека се случил три или повеќе пати во последната академска година.

Порано оваа година, анкетата на Girlguiding покажа дека еден од четири испитаници на возраст од 13 до 18 години виделе сексуално експлицитна дипфејк слика од позната личност, пријател, наставник или себеси.

„Пред една година користев примери од САД и Шпанија за да зборувам за овие прашања“, вели Маргарет Малхоланд, специјалист за посебни потреби и инклузија во Здружението на училишни и колеџ лидери. „Сега тоа се случува пред нашиот праг и е навистина загрижувачко“.

Минатата година, „Тајмс“ објави дека две приватни училишта во Велика Британија биле во центарот на полициска истрага за наводното правење и споделување на порнографски дипфејк слики. Весникот објави дека полицијата истражува тврдења дека длабоките лага се создадени во машко училиште од страна на некој што манипулирал со слики земени од профилите на социјалните медиуми на учениците од женско училиште.

Комесарот за деца во Англија, Дама Рејчел де Соуза, побара да се забранат апликациите за нудизација како што е ClothOff, која беше истражена како дел од серијата подкасти „Black Box“ на „Гардијан“ за вештачката интелигенција. „Децата ми кажаа дека се исплашени од самата идеја дека оваа технологија е достапна, а камоли да се користи“, вели таа.

Справувањето со проблемот не е едноставно

Не е лесно да се најдат наставници кои се подготвени да зборуваат за инциденти со длабока лага. Оние кои се согласија да бидат интервјуирани од „Гардијан“ инсистираа на строга анонимност. Други сведоштва беа дадени од академици кои истражуваат дипфејк во училиштата и даватели на сексуално образование.

Тања Хорек, професорка по филмски и феминистички медиумски студии на Универзитетот Англија Раскин, разговарала со директори на училишта како дел од мисија за утврдување факти за откривање на обемот на проблемот во училиштата. „Сите имале инциденти со дипфејкс во своите училишта и го сметале ова за нов проблем“, вели таа. Во еден случај, 15-годишно девојче кое било ново во училиште било мета на машки ученици кои создале порнографско дипфејкс видео од неа. Таа била толку вознемирена што првично одбила да оди на училиште. „Речиси сите примери за кои ми кажаа беа момчиња кои правеле дипфејкс од девојчиња“, вели Хорек.

„Друго нешто што го забележав е дека постои вистинска тензија околу тоа како треба да се справат со овие проблеми. Па така, некои наставници велеа: „Да, веднаш ја повикуваме полицијата и учениците се исклучуваат“ – таков пристап“, вели Хорек. „Потоа другите наставници велеа: „Па, тоа не е начинот да се справиме со тоа. Мораме да имаме пристап кон реставративна правда, каде што разговараме со овие млади луѓе и откриваме зошто ги прават овие работи.“

„Значи, се чини дека постои некаква недоследност и неизвесност за тоа како да се справиме со овие случаи – но мислам дека е навистина тешко за наставниците затоа што не добиваат јасни упатства.“

Лора Бејтс, основач на Проектот за секојдневен сексизам, вели дека има нешто особено шокантно во врска со длабоките лажни слики. Во нејзината книга „Новото доба на сексизмот: Како револуцијата на вештачката интелигенција ја преосмислува мизогинијата“, таа пишува: „Од сите форми на злоупотреба што ги добивам, тие се оние што најдлабоко болат – оние што остануваат со мене. Тешко е да се опише зошто, освен да се каже дека се чувствувате како да сте. Се чувствувате како некој да ве зел и да ви направил нешто и нема ништо што можете да направите во врска со тоа. Гледањето видео од себе како сте злоупотребени без ваша согласност е речиси вонтелесно искуство.“

Меѓу децата на училишна возраст, влијанието може да биде огромно. Девојчињата и младите жени се чувствуваат повредено и понижено. Групите за пријателство во училиштето се распаднати и може да има длабоко чувство на предавство кога еден ученик открива дека друг создал длабока сексуализирана слика за нив и ја споделил низ училиштето. Девојчињата не можат да се соочат со часовите, додека наставниците со мала обука се трудат најдобро што можат да поддржат и едуцираат. Во меѓувреме, момчињата и младите мажи се вовлечени во криминално однесување, честопати затоа што не ги разбираат последиците од своите постапки.

„Гледаме ученици кои се многу вознемирени и се чувствуваат предадени и ужаснати од овој вид злоупотреба“, вели Доли Падалија, извршен директор на Училиштето за сексуално образование, добротворна организација која нуди сексуално образование во училиштата и универзитетите. „Еден пример е кога едно училиште стапи во контакт со нас. Беше откриено дека еден ученик фотографирал многу ученици во рамките на одделенската група и правел длабоки слики.

„Потоа овие беа протечени, а последиците беа доста значајни. Учениците беа навистина вознемирени. Се чувствуваа многу предадени и повредени. Тоа е форма на злоупотреба. Вклучена беше полицијата. Ученикот беше отстранет од училиште и бевме замолени да дојдеме и да помогнеме. Училиштето реагираше многу, многу брзо, но би рекол дека тоа не е доволно. За навистина да спречиме сексуално насилство, треба да бидеме попроактивни.“

Се проценува дека 99% од сексуално експлицитните длабоки фејкови достапни онлајн се од жени и девојчиња, но има случаи на момчиња кои се цел на нивна мета. Добротворната организација „Everyone’s Invited“ (EI), која собира сведоштва од преживеани од сексуална злоупотреба, наишла на барем еден таков случај: „Еден ученик сподели со образовниот тим на EI дека едно момче од нивната генерација, кое било многу сакано и било пријателство со многу од девојчињата, било цел на мета кога друго момче создало сексуална слика од него генерирана од вештачка интелигенција. Таа слика потоа циркулирала низ училиштето, предизвикувајќи значителна вознемиреност и траума.“

EI, исто така, означува како овие алатки се тривијализираат и се користат на вознемирувачки начини, како што е филтерот „промена на твојот пријател во твое момче“. „На платформите на социјалните медиуми како TikTok и Snapchat, тие се сè подостапни и нормализирани.“ Иако ова може да им изгледа игриво или безопасно на некои, тоа одразува и зајакнува култура каде што согласноста и почитувањето на личните граници се поткопани.“

Наспроти распространетата мизогинија во училиштата, растечкиот број наставници се исто така цел на напади, известуваат EI и други: „Тоа е нешто со кое, како општество, итно треба да се соочиме. Образованието мора да остане пред технологијата, а возрасните мора да се чувствуваат опремени да ги водат овие разговори, наместо да се срамат од нив.“

Сет Џејмс е назначен лидер за заштита – виш член на персоналот со целосна одговорност за заштита и заштита на децата во училиштето – и автор на DSL блогот. „За сите што работат во училиштата, се чини дека технолошкиот развој постојано создава нови предизвици и ризици“, вели тој. „Вештачката интелигенција генерално – а особено апликациите за длабоко лажење и разголување – се чини како следниот воз што доаѓа по пругата.

Забрани или едукација

„Повеќе образование“ е привлечно како решение за вакви предизвици – бидејќи е интуитивно и релативно лесно – но само по себе е како да се обидувате да го задржите шумскиот пожар со воден пиштол. Исто така, полицијата се чини дека е целосно преоптоварена од обемот на овие проблеми. Како општество, ни требаат пошироки решенија и подобра стратегија.“

Тој продолжува: „Сите треба да се обидеме да замислиме како би се чувствувале пред 20 години ако некој предложил да се измисли рачен уред што би можел да се користи за создавање реалистичен порнографски материјал на кој се прикажани вистински луѓе што ги познавате во реалниот живот. А потоа предложиле да им се даде еден од овие уреди на сите наши деца. Бидејќи во основа тоа е местото каде што сме сега. Дозволуваме овие работи да станат „нормални“ за време на нашиот живот.“

Џесика Рингроуз, професорка по социологија на родот и образованието на Институтот за образование на Универзитетскиот колеџ во Лондон, работела во училишта на прашања како што се машкоста, родовата нееднаквост и сексуалното насилство. Таа е исто така коавторка на книгата „Тинејџери, социјални медиуми и злоупотреба врз основа на слики“, а сега истражува технолошки олеснето родово базирано насилство.

„Начинот на кој младите луѓе ги користат овие технологии не е нужно лош“, вели таа, „но она што им треба е подобра медиумска писменост.“ Таа ги поздравува ажурираните владини упатства за образование за односи, секс и здравје, кои „препознаа дека мизогинијата е проблем што треба да се реши во училишниот систем“. Сепак, таа вели: „Тие треба да ги поврзат точките. Тие треба да ја спојат загриженоста за родовото и сексуалното насилство со технологијата. Не можете да се потпрете на Ofcom или на регулаторите за заштита на младите луѓе. Ни треба проактивно, превентивно образование.“

Каде е владата во сето ова? „Нашите нови упатства за образование за односи, секс и здравје ќе се погрижат сите млади луѓе да ги разберат здравите односи, сексуалната етика и опасностите од онлајн содржините како што се порнографијата и deepfake“, рече портпарол на Министерството за образование. „Како дел од нашата мисија „План за промени“ за преполовување на насилството врз жените и девојчињата, ние исто така им обезбедуваме на училиштата нови финансирани ресурси за да им помогнеме на наставниците да го објаснат законот и штетите поврзани со онлајн содржините како дел од нивните часови соодветни на возраста.“

Рингроуз ја нагласува итноста. „Овие проблеми се случуваат – се случува креирање и дистрибуција на слики без согласност. Овие технологии се на дофат на луѓето. Мислам, супер лесно е за секое дете да пристапи до овие работи.“

Таа е скептична во врска со напорите за забрана на паметните телефони во училиштата и се грижи дека тоа ќе им отежни на младите луѓе кои може да бидат цел на навредливи слики да побараат помош. „Апстиненцијата околу работи како што е технологијата не функционира“, вели таа. „Всушност, мора да ги научите луѓето правилно да ја користат. Треба да се вклучиме во ова како навистина важен елемент од наставната програма.“

Што нè враќа назад до момчето во автобусот, каде што започна оваа приказна. Тој беше запрен затоа што едно девојче во истиот автобус неодамна имаше час во училиште за безбедноста на интернет како дел од нејзината наставна програма за лична, социјална, здравствена и економска работа. Таа препозна што прави тој и им кажа на своите наставници.

Оригиналниот напис е тука: The rise of deepfake pornography in schools: ‘One girl was so horrified she vomited’