Технологија

Научник во „Антропик“: До 2030. ќе биде донесена клучната одлука за судбината на човештвото

Џаред Каплан, главен научник во фирмата за вештачка интелигенција Антропик, даде серија ужасни предвидувања за иднината на човештвото, предупредувајќи дека клучната одлука за нашата судбина е опасно блиску.

Според него, изборот е сè уште во наши раце, но само ако не одлучиме да им ја оставиме контролата на машините, објавува Футуризам.

Точката од која нема враќање

Каплан предвидува дека таа точка на одлука брзо се приближува. Во интервју за „Гардијан“, тој предупреди дека најдоцна до 2030 година, а можеби и веќе во 2027 година, човештвото ќе мора да одлучи дали да го преземе „крајниот ризик“ и да им дозволи на моделите на вештачка интелигенција сами да се обучуваат.

Таквиот чекор би можел да предизвика „експлозија на интелигенција“ што би ја однела технологијата на нови височини и би довело до создавање вештачка општа интелигенција (АГИ) - системи што ја надминуваат човечката интелигенција.

Ова би можело да донесе огромни придобивки за човештвото преку научниот и медицинскиот напредок. Од друга страна, истата одлука би можела да дозволи моќта на вештачката интелигенција да се шири неконтролирано, оставајќи нè на милост и немилост на нејзините каприци.

„Звучи како еден вид застрашувачки процес“, рече тој. „Не знаете каде ќе завршите.“

Предупредувања доаѓаат од сите страни

Каплан не е сам во своите стравови. Научникот е дел од растечкото тело експерти кои предупредуваат за потенцијално катастрофалните последици од развојот на вештачката интелигенција.

Џефри Хинтон, еден од „кумовите на вештачката интелигенција“, јавно изрази жалење за своето животно дело и често предупредува дека вештачката интелигенција би можела да го уништи општеството.

Сем Алтман од OpenAI предвидува дека вештачката интелигенција ќе уништи цели категории работни места, додека шефот на Каплан, Дарио Амодеи, извршен директор на Anthropic, неодамна предупреди дека вештачката интелигенција би можела да преземе повеќе од половина од работните места во канцеларијата на почетно ниво, обвинувајќи ја конкуренцијата за „разубавување“ на вистинскиот обем на нарушување што ќе го предизвика вештачката интелигенција.

Најголем страв: Машини за самостојно учење

Каплан се чини дека се согласува со проценката на неговиот шеф за влијанието врз работните места. Во едно интервју, тој изјави дека очекува вештачката интелигенција да може да извршува „повеќето канцелариски задачи“ за две до три години.

Иако е оптимист дека вештачката интелигенција може да се усогласи со човечките интереси, неговата најголема загриженост е можноста да им се дозволи на моќните системи на вештачката интелигенција да обучуваат други системи на вештачка интелигенција. Тоа е, вели тој, „исклучително важна одлука“ што ќе мора да ја донесеме многу наскоро.

„Тоа е она што мислиме дека е можеби најголемата одлука или најстрашната работа што треба да се направи... откако никој не е вклучен во процесот, навистина не знаете“, изјави тој за „Гардијан“. „Едно е, дали ќе ја изгубите контролата врз тоа? Дали воопшто знаете што прават вештачките интелигенции?“

Додека поголемите модели на вештачка интелигенција веќе се користат за обука на помалите во процес познат како дестилација, Каплан првенствено се занимава со таканареченото рекурзивно самоподобрување - процес во кој вештачката интелигенција учи без никаква човечка интервенција и на тој начин прави огромни скокови во своите способности.

Апокалипсата како маркетинг?

Дозволувањето таков развој покренува тешки филозофски прашања. „Главното прашање е: дали вештачките интелигенции се добри за човештвото?“, рече Каплан. „Дали се корисни? Дали ќе бидат безопасни? Дали ги разбираат луѓето? Дали ќе им дозволат на луѓето да продолжат да имаат контрола врз своите животи и врз светот?“

Сепак, предупредувањата на Каплан треба да се гледаат со одреден степен на претпазливост. Визиите за апокалипсата, иако звучат драматично, исто така го зајакнуваат перцепцијата дека вештачката интелигенција е најважната технологија некогаш создадена, која служи како еден вид маркетинг.

Ваквите предвидувања честопати го одвлекуваат вниманието од реалните и актуелните проблеми, како што се огромниот еколошки отпечаток на вештачката интелигенција, кршењето на авторските права и нејзините илузорни когнитивни ефекти.

Покрај тоа, многу експерти, вклучувајќи влијателни личности како Јан Лекун, не веруваат дека сегашната архитектура на јазични модели (LLM) е способна да се развие во семоќните системи од кои се плаши Каплан. Не е ни сигурно дека вештачката интелигенција всушност ја зголемува продуктивноста - некои истражувања сугерираат спротивното, а имало и неколку неуспешни обиди да се заменат работниците со агенти на вештачката интелигенција кои на крајот биле повторно вработени.

Самиот Каплан ја признава можноста развојот на вештачката интелигенција да стагнира. „Можеби најдобрата вештачка интелигенција досега е вештачката интелигенција што ја имаме сега“, рече тој, но брзо се воздржа: „Но, ние навистина не мислиме дека е така. Мислиме дека ќе продолжи да се подобрува“.

Тагови: Човештвото научник

Крадењето авторски текстови е казниво со закон. Преземањето на авторски содржини (текстови) од оваа страница е дозволено само делумно и со ставање хиперлинк до содржината што се цитира.

Македонија

Протоколарна средба на претседателот на Собранието со британскиот амбасадор Метју Лосон

Гаши посебно ја издвои соработката на ниво на претседатели на парламенти, со осврт на неговата минатогодишна официјална посета на Британскиот парламент.

Денеска во Собранието се одржа протоколарна средба на претседателот на Собранието на Република Македонија, Африм Гаши, со британскиот амбасадор Метју Лосон. Беа констатирани одличните билатерални односи меѓу Република Македонија и Обединетото Кралство, кои се одвиваат на редовна основа со развојна динамика.

Претседателот Гаши посебно ја издвои соработката на ниво на претседатели на парламенти, со осврт на неговата минатогодишна официјална посета на Британскиот парламент. Го истакна значењето на проектната помош за Собранието што се одвива преку Весминстер фондацијата за демократија и со која се зајакнуваат функциите на Собранието и Службата.

Амбасадорот Лосон изрази задоволство за потврдата на продолжување на веќе воспоставената соработка.

Претседателот Гаши го информираше амбасадорот за процесот на дигитализација на Собранието, за зајакнувањето на надзорната улога на Собранието, како и за подигнувањето на нивото на политичката култура во Собранието и подобрувањето на перцепцијата на законодавниот дом во јавноста.

Двајцата соговорници разменија мислења околу претстојните активности на Собранието, можностите и модалитетите во рамките на веќе утврдената соработка, но и за потенцијалите на друг вид на соработка од взаемен интерес. Беше изразена посебна благодарност до Обединетото Кралство за водечката улога и поддршка во развитокот и во клучните историски моменти на нашата земја како независна европска демократија.

Македонија

„Стој за УСЈЕ“: Средбата со министерот за животна средина беше позитивна

Од иницијативата „Стоп за УСЈЕ“ попладнево беа на средба со министерот за животна средина Мухамет Хоџа.

Средбата како што оценија потоа, била позитивна во насока на изнаоѓање на некакво решение.

Македонија

Продолжува судењето за екс апелацискиот судија Ѓоко Ристов, вештакот тврди дека нема контаминација на доказите

Немало контаминација при утврдувањето на ДНК анализата на биолошките траги пронајдени на алуминиумските фолии во кои биле завиткани 350.000 евра во дупка во ѕид во семејниот дом на судијата Ристов

Немало контаминација при утврдувањето на ДНК анализата на биолошките траги пронајдени на алуминиумските фолии во кои биле завиткани 350.000 евра во дупка во ѕид во семејниот дом на поранешен апелациски судија Ѓоко Ристов и покажува совпаѓање со ДНК-профилот на обвинетиот.

Ова денеска пред судот го истакна вештакот од МВР, Ана Лалевска, оценувајќи дека анализата е изработена согласно сите пропишани процедури и дека резултатите се веродостојни. Со ова практично и падна одбраната на обвинетите кои тврдеа дека додека се прибирале материјалните докази на вештаците им била скината ракавицата и со тоа бил контаминиран доказот, односно ДНК на Ѓоко Рисотв.

-Добиваме брисеви подигнати од друго одделение, означени со баркодови и ги ставаме на ДНК анализата и на крајот исклучиво според ДНК профилот донесуваме стручно мислење. Заклучокот кој го добесовме е дека обезбедените траги го имаат профилот на Ѓоко Ристов- изјави Ана Лалевска, вешто лице за биолошки траги вработено во МВР.

Расправата ја одбележаа и тензии меѓу обвинителката Искра Хаџи-Василева и бранителот на Ристов, Звонко Давидовиќ, поради честите приговори, по што судот ги предупреди дека ќе бидат отстранети од судницата доколку продолжат со меѓусебните расправии.

Самото повикување на вештаците по наша оценка беше безпретметно бидејќи не добивме нови факти. Се што е нотирано во однос на овој доказ е нотирано во писмените извештаи кои овие вешти лица ги прават – изјави Хаџи-Василева.

Одбраната пак, уште еднаш го оспори начинот на прибирањето, чувањето и вештачењето на доказите посочувајќи дека дополнително е спорно што се анализирани парчиња од алуминиумска фолија, а не самите пари, што како што истакна одбраната можно е да имало контаминација од трето лице на доказите.

Вештакот може да каже дека не е компромитирано, ама во својот исказ кажа дека не знае каде е чувано. Сведоци сте. Не знае како е транспартирано и не знае начинот како е земен брисот, он работел само на брисот. Тоа покажува дека неговиот одговор и не е многу валиден – изјави адвокатот Давидовиќ.

Ѓоко Ристов е обвинет за перење пари и прикривање имот, откако при претрес во семејната куќа во Неготино биле пронајдени 350.000 евра скриени зад кујнски плочки.