Вештачка интелигенција клонирала глас директора, уследио је хаос

Све је теже и теже препознати прави аудио, видео и фотографије, а како технологија буде напредовала, то ће бити још теже.

На Инстаграму* су објављени аудио-снимци прилично непријатног садржаја, на којима је наводно директор средње школе у Балтимору. Али, како је показала полицијска истрага, расистичке и антисемитске изјаве које су објављене нису биле његове, иако се на снимку заиста чини дасе ради о гласу дотичног директора који се зове Ерик Ајзверт. Наиме, снимци су направљени АИ алатом за клонирање гласова, а полиција је открила како их је направио и мејлом послао један радник поменуте школе.

Настао је хаос, директор на удару јавности

Реч је о наставнику физичког васпитања Дажону Даријену, а занимљиво је да је он чак и поменуо своје име у измишљеном аудио-снимку, односно направио снимак на коме се чини да је директор поменуо његово име.

У контроверзној објави која се брзо проширила друштвеним мрежама помињу се „незахвална деца” тамне боје коже и њихов академски успех, а „директор“ каже да ће се, уколико добије још једну критику јеврејске заједнице, „придружити другој страни”.

На снимку се помињу и имена школског особља, укључујући и самог Даријена, за кога се на снимку каже да није требало да буде запослен и да би га требало уклонити из школе „на овај или онај начин“. У овом случају, желео је да себе прикаже као некакву жртву директора којег је приказао као расисту и лошег колегу.

Када је снимак објављен, јасно је изазвао негодовање ученика, професора, као и чланова породица ученика који похађају школу. Већина је веровала својим ушима, односно да је онај ко је те речи изговорио заиста директор. Иако је директор јасно ставио до знања да то није рекао, нашао се на удару јавности, а њему и његовој породици су почеле да стижу претње, што је захтевало полицијску заштиту.

Само једна особа, члан синдиката, поверовала је директору и прва је посумњала да је у овом случају реч о употреби алата за клонирање гласова.

Како је снимак завршио у медијима

То се на крају испоставило као тачно, а полицијска истрага је показала да директор нема никакве везе са овим инцидентом, већ да му га је подметнуо запослени ушколи који је завршио у затвору. Утврђено је да је Даријен користио школску мрежу за претраге, као и коришћење АИ алата за клонирање гласова, и да је био повезан са налогом е-поште који је коришћен за дистрибуцију овог снимка, пренела је „Арс техника“.

Наиме, он то није директно објавио на друштвеним мрежама, већ је видео поделио путем мејла. Наставница из школе (која у овом случају није оптужена) потом је исто проследила ученику за кога је знала да може да га прошири интернетом, што је он и учинио. Видео је на крају постао виралан и чак је завршио у медијима.

Колико год нам савремена технологија, а посебно вештачка интелигенција, може помоћи у свакодневном животу, ово је још једно упозорење на негативне ствари које се могу десити ако се злоупотребљаа. Како технологија наставља да напредује, биће све теже да се препозна шта је права фотографија, звук или видео те се не треба чудити ако се овакви и слични случајеви наставе у будућности.

*Активности „Мета“ (друштвене мреже Фејсбук и Инстаграм) забрањене су у Русији као екстремистичке.

Погледајте и: