Според него, изборот е сè уште во наши раце, но само ако не одлучиме да им ја оставиме контролата на машините, објавува Футуризам.

Точката од која нема враќање

Каплан предвидува дека таа точка на одлука брзо се приближува. Во интервју за „Гардијан“, тој предупреди дека најдоцна до 2030 година, а можеби и веќе во 2027 година, човештвото ќе мора да одлучи дали да го преземе „крајниот ризик“ и да им дозволи на моделите на вештачка интелигенција сами да се обучуваат.

Таквиот чекор би можел да предизвика „експлозија на интелигенција“ што би ја однела технологијата на нови височини и би довело до создавање вештачка општа интелигенција (АГИ) - системи што ја надминуваат човечката интелигенција.

Ова би можело да донесе огромни придобивки за човештвото преку научниот и медицинскиот напредок. Од друга страна, истата одлука би можела да дозволи моќта на вештачката интелигенција да се шири неконтролирано, оставајќи нè на милост и немилост на нејзините каприци.

„Звучи како еден вид застрашувачки процес“, рече тој. „Не знаете каде ќе завршите.“

Предупредувања доаѓаат од сите страни

Каплан не е сам во своите стравови. Научникот е дел од растечкото тело експерти кои предупредуваат за потенцијално катастрофалните последици од развојот на вештачката интелигенција.

Џефри Хинтон, еден од „кумовите на вештачката интелигенција“, јавно изрази жалење за своето животно дело и често предупредува дека вештачката интелигенција би можела да го уништи општеството.

Сем Алтман од OpenAI предвидува дека вештачката интелигенција ќе уништи цели категории работни места, додека шефот на Каплан, Дарио Амодеи, извршен директор на Anthropic, неодамна предупреди дека вештачката интелигенција би можела да преземе повеќе од половина од работните места во канцеларијата на почетно ниво, обвинувајќи ја конкуренцијата за „разубавување“ на вистинскиот обем на нарушување што ќе го предизвика вештачката интелигенција.

Најголем страв: Машини за самостојно учење

Каплан се чини дека се согласува со проценката на неговиот шеф за влијанието врз работните места. Во едно интервју, тој изјави дека очекува вештачката интелигенција да може да извршува „повеќето канцелариски задачи“ за две до три години.

Иако е оптимист дека вештачката интелигенција може да се усогласи со човечките интереси, неговата најголема загриженост е можноста да им се дозволи на моќните системи на вештачката интелигенција да обучуваат други системи на вештачка интелигенција. Тоа е, вели тој, „исклучително важна одлука“ што ќе мора да ја донесеме многу наскоро.

„Тоа е она што мислиме дека е можеби најголемата одлука или најстрашната работа што треба да се направи... откако никој не е вклучен во процесот, навистина не знаете“, изјави тој за „Гардијан“. „Едно е, дали ќе ја изгубите контролата врз тоа? Дали воопшто знаете што прават вештачките интелигенции?“

Додека поголемите модели на вештачка интелигенција веќе се користат за обука на помалите во процес познат како дестилација, Каплан првенствено се занимава со таканареченото рекурзивно самоподобрување - процес во кој вештачката интелигенција учи без никаква човечка интервенција и на тој начин прави огромни скокови во своите способности.

Апокалипсата како маркетинг?

Дозволувањето таков развој покренува тешки филозофски прашања. „Главното прашање е: дали вештачките интелигенции се добри за човештвото?“, рече Каплан. „Дали се корисни? Дали ќе бидат безопасни? Дали ги разбираат луѓето? Дали ќе им дозволат на луѓето да продолжат да имаат контрола врз своите животи и врз светот?“

Сепак, предупредувањата на Каплан треба да се гледаат со одреден степен на претпазливост. Визиите за апокалипсата, иако звучат драматично, исто така го зајакнуваат перцепцијата дека вештачката интелигенција е најважната технологија некогаш создадена, која служи како еден вид маркетинг.

Ваквите предвидувања честопати го одвлекуваат вниманието од реалните и актуелните проблеми, како што се огромниот еколошки отпечаток на вештачката интелигенција, кршењето на авторските права и нејзините илузорни когнитивни ефекти.

Покрај тоа, многу експерти, вклучувајќи влијателни личности како Јан Лекун, не веруваат дека сегашната архитектура на јазични модели (LLM) е способна да се развие во семоќните системи од кои се плаши Каплан. Не е ни сигурно дека вештачката интелигенција всушност ја зголемува продуктивноста - некои истражувања сугерираат спротивното, а имало и неколку неуспешни обиди да се заменат работниците со агенти на вештачката интелигенција кои на крајот биле повторно вработени.

Самиот Каплан ја признава можноста развојот на вештачката интелигенција да стагнира. „Можеби најдобрата вештачка интелигенција досега е вештачката интелигенција што ја имаме сега“, рече тој, но брзо се воздржа: „Но, ние навистина не мислиме дека е така. Мислиме дека ќе продолжи да се подобрува“.

Крадењето авторски текстови е казниво со закон. Преземањето на авторски содржини (текстови) од оваа страница е дозволено само делумно и со ставање хиперлинк до содржината што се цитира.