Суштина хипотезе о рањивом свету је у томе да ће у одређеној фази технолошког развоја стварање моћне разорне силе постати сувише лако, а чим цивилизација достигне тај ниво развоја, доћи ће и до њеног самоуништења. Замислите да је за стварање нуклеарног оружја, уместо коришћења тешко приступачних сировина као што су плутонијум или обогаћени уран, довољно само подгрејати песак у микроталасној пећи. Тада би вероватно био крај цивилизације, каже Бустром.
Шта кад вештачка интелигенција постане паметнија од људи
Да ли ће вештачка интелигенција постати паметнија од нас?
— На крају хоће. А у том тренутку мораћемо некако да гарантујемо да ће ти системи наставити да функционишу у складу са нашим планом. Чак и када нас интелектуално надмаше. То је технички проблем, који треба решити техничким средствима.
Међутим, чак и да буде решен, остаје политички или организациони проблем — назовите то како хоћете. Рецимо, људи могу да натерају вештачку интелигенцију да ради оно што је њима потребно, али како осигурати да ће те нове моћне технологије бити коришћене за добробит, а не као оруђе за рат и експлоатацију. А то већ није технички, него политички проблем.
У многим савременим прогнозама помиње се долазак „судњег дана“, тј. тренутка када ће вештачка интелигенција заробити човечанство. Међутим, постоје и они који верују у супротно, да ће нам она помоћи да решимо много проблема као што су глад, неједнакост, глобално загревање... Шта ви мислите?
— Истина је негде на средини. То је попут врата кроз која морате проћи. На другој страни је пут који ће нас одвести у заиста сјајну будућност. Ако до тог тренутка не дође до самоуништења, онда ће се прелазак догодити. Дакле, наш задатак је да се фокусирамо на истраживања, да претражимо глобалне методе контроле вештачке интелигенције, да светски ред доведемо до максимално оствариве адекватности и појачамо сарадњу. Нарочито је важно да стручњаци за вештачку интелигенцију израде заједничке стандарде. Са разумевањем да се то ради за опште добро. Генерално гледано, морамо постати разумнији.
Како спречити разарање
Чак и уз тоталну контролу будућност се не може предвидети. Наравно, могуће је пратити све активности људи, али ће они и под надзором проналазити ствари чија се разорна моћ неће ни наслутити док се не деси нешто ужасно. То што неко то прати ништа неће спречити..
— Ако претпоставимо да ће свет у одређеној фази технолошког развоја постати рањив, поставља се питање шта у тој ситуацији можемо учинити да спречимо разарање свега живог. И чини се да би у неким сценаријима једино могуће решење било свеопшти надзор.
Наравно, сам по себи тотални надзор такође представља ризик за људску цивилизацију, јер ће омогућити да различити тоталитарни режими делују још ефикасније.
Константни надзор је сам по себи карактеристичан за тоталитарни режим.
— Зависи од тога у које сврхе се користе добијене информације. Ако их прикупљају да би централизована власт у потпуности контролисала свачији живот, онда ће то свакако бити тоталитаризам без преседана. Међутим, уз пасивно посматрање људи би наставили да воде обичан живот. Мере би се предузимале само у случају да неко покуша да створи оружје за масовно уништење. У таквој ситуацији ово не би изгледало као ужасни тоталитаризам.
Да ли је то изводљиво? Људи који би били на челу тог програма, нашли би се у искушењу да га користе у своје сврхе. Таква је људска природа...
— Наравно, чак и да се изгради добро проверен систем за масовни надзор теоретски ће се појавити претња да ће одмах или ускоро он пасти у руке недобронамерних грађана који ће га користити за свакојаке притиске.
Ово је један од главних разлога за сумњичавост према технологијама за надзор, што је у принципу оправдано. Ипак, то није питање нашег избора — свет тако функционише да у одређеној фази технолошког развоја постаје знатно лакше уништити, него створити или заштитити. И у таквој ситуацији може се испоставити да је једини начин за спречавање самоуништења — проверени масовни надзор.
Мноштво је примера да људски пороци и неорганизованост побеђују било каква ограничења и норме, као трава која расте кроз асфалт...
— Како процес производње оружја буде постајао једноставнији и захтевао све мање тешко доступних сировина, људских ресурса и простора, биће све теже открити претње уз помоћ тренутних технологија. Мада се и ова област брзо развија. Софтвер за препознавање лица омогућава да се уз помоћ камера прати било ко. Можете чак замислити (ово је екстремни случај само да би се демонстрирала теоретска могућност) да ће сви облачити одећу одређених боја и имати на себи камере и микрофоне — тада ће систем вештачке интелигенције моћи да прати и класификује све ваше активности.
Да ли живимо унутар матрице
Вештачка интелигенција збуњује јер су је створили људи који су у суштини несавршена бића. Ако су несавршена бића изумела вештачку интелигенцију, имитирајући свог творца, онда је овај производ такође несавршен, што значи да ће пре или касније нешто пропустити.
— Као прво, он не имитира човека. А као друго, у зависности од конкретне ситуације, можда неће бити неопходно надгледати апсолутно све.
Тренутне могућности државних органа су наравно јако ограничене, али већ је приметан озбиљан напредак у употреби вештачке интелигенције за препознавање нечег — лица или одређених активности. Претпоставке су да ће за 10-20 година те технологије постати прилично озбиљан инструмент.
Односно, човечанство неће добровољно прећи под контролу машина...
— Постоје варијанте развоја догађаја, током којих ће рањиви свет бити или уништен или обухваћен системом за надзор. У зависности од коришћене технологије за надзор, рад тог система се може одвијати на различите начине, што значи да он може бити и максимално аутоматизован. Међутим, у блиској будућности је загарантовано људско учешће. На пример, за контролу резултата рада система и за одређивање мера за реаговање.
Пре хипотезе о рањивом свету сте имали другу хипотезу према којој сви ми можда живимо унутар одређене матрице...
— Да, хипотеза симулације. Циљ дискусије је да се покаже тачност једне од три тврдње.
Прва тврдња: све цивилизације у нашој тренутној фази технолошког развоја изумиру пре достизања технолошке зрелости. Можда постоје неке далеке, другачије, ванземаљске цивилизације, али ниједна од њих није достигла технолошку зрелост.
Друга варијанта: све цивилизације које су достигле технолошку зрелост губе интерес за стварање онога што ја називам „симулација предака“. Рачунарска симулација која је довољно детаљна да би људи имали свест и бриге, сличне нашима.
Трећа варијанта (по мом мишљењу највероватнија): сада готово сигурно живимо у рачунарској симулацији коју је створила нека напредна цивилизација.
