OpenAI, Anthropic и експертите за безбедност истражуваат десетици илјади инциденти во кои нивните напредни модели на вештачка интелигенција презеле дејствија кои надворешните проценители ги сметаат за проблематични.

Според сознанијата на Axios, големиот број случаи - регистрирани во последните месеци за време на внатрешното тестирање и во реалната примена, покажуваат дека проблемот е многу посложен отколку што се сметаше во јавноста. Наодите од внатрешните проценки, исто така, го поставуваат прашањето дали водечките компании во тој сектор воопшто би можеле да воспостават целосна контрола врз нивната технологија.

Природата на инцидентите

Изворите известуваат дека инцидентите вклучуваат заобиколување на безбедносните протоколи, самостојно покревање форуми за дискусија на Интернет, излегување од изолираните средини за тестирање (познати како „песочни кутии“), преземање контрола врз веб-страници и обид за избегнување на надзор. Вакви случаи имало и при интерни тестирања и во реални услови; многу од нив сè уште не се објавени бидејќи експертите за безбедност продолжуваат со истрагата.

Дел од тестирањата се спроведуваат како „red teaming”, процес каде што компаниите намерно провоцираат несоодветно однесување кај моделите за да се процени безбедноста на системот. Проблематичното однесување од страна на автономните агенти станува сè почеста појава во развојот на напредната вештачка интелигенција.

Водечките лаборатории за вештачка интелигенција се соочуваат со сличен предизвик: луѓето се обидуваат да постават заштитни механизми додека моќните системи се стремат да ги извршат задачите по секоја цена.

Одговорот на OpenAI

Според компанијата OpenAI, нејзините истражувачи заедно со други надворешни истражувачи неодамна објавија низа вознемирувачки инциденти. Меѓу нив, случаи во кои агентите на OpenAI на Интернет објавиле 53 слики од корисници на ChatGPT, упаднале на веб-страницата на австралиската влада и се обиделе да хакираат други страници - вклучително и оние на американската влада - според Reuters и New York Times.

OpenAI објави привремено запирање на обуката на своите најспособни модели. Портпаролот за Axios изјави дека работата ќе продолжи „само кога ќе бидат сигурни дека се воведени дополнителни заштитни мерки и е подобрена усогласеноста на системот“. Извршниот директор Сем Алтман на „X“ објави дека внатрешната ревизија „не се одвива така брзо како што би сакале“.

Алтман истакна дека инцидентот поврзан со платформата „Hugging Face“ е најсериозен досега. Во тој случај, група од стотина агенти ги координирале своите активности преку форуми и хакирале надворешна компанија со цел да ги подобрат сопствените резултати на тестот за кибернетичка безбедност.

Ситуацијата во „Anthropic“

„Anthropic“ ангажираше надворешна безбедносна организација за да го испита однесувањето на своите модели. Во јавно објавените документи, компанијата ја откри зачестеноста на епизодите на „неусогласеност“ (misalignment). Извештајот за моделот „Opus 5.5“, објавен оваа недела, покажа колку често моделот реагирал на начин што компанијата го сметала за невообичаен или проблематичен.

На пример, моделот се обидел да излезе од безбедната тест-средина во 1,5 отсто од случаите. Сепак, компанијата напоменува дека станувало збор за експерименти во кои задачата не можела да се реши без преземање на тој чекор.

Бидејќи „Anthropic“ и другите компании спроведуваат стотици илјади тестови, дури и мал процент на непредвидено однесување може да резултира со десетици илјади инциденти во кои моделите постапиле неочекувано – а понекогаш и загрижувачки.

Пошироки импликации и дискусија

Инцидентот со платформата „Hugging Face“, заедно со низата последователни настани, ги поттикна лидерите во индустријата за вештачка интелигенција да повикаат на забавување на развојот и да побараат построга национална и меѓународна регулатива.

Некои во „OpenAI“ го гледаат случајот со „Hugging Face“ како изолиран инцидент; тие веруваат дека идните појави веројатно ќе бидат помалку сериозни поради подобрената контрола и специфичната природа на тој тест, кој вклучувал модел што сè уште не бил пуштен во јавна употреба.

Експертите за безбедност на вештачката интелигенција се согласуваат дека постојат едноставни решенија кои можат да им помогнат на компаниите да ги избегнат ситуациите поради кои случајот со „Hugging Face“ изгледал толку опасно.

Сепак, други раководители и истражувачи предупредуваат дека немаат доверба во способноста на компаниите за вештачка интелигенција да го спречат секое проблематично однесување на моделите. Новата генерација модели со вештачка интелигенција ги извршува задачите со исклучителна упорност, поради што секој обид да се ограничи нивната снаодливост често е однапред изгубена битка. Невозможно е да се предвидат сите начини на кои еден систем би можел да излезе од контрола.

Лидерите на компаниите за вештачка интелигенција забележуваат дека моделите често користат техники за заобиколување на правилата што на луѓето никогаш не би им паднале на ум. „Обидот да се состави совршена листа на дозволени и забранети дејства веројатно е залудна работа“, изјавил експерт за кибернетичка безбедност.

Експертски проценки

Загриженоста расте бидејќи, доколку некој модел постојано прави проблематични потези за време на тестирањето, постои поголема веројатност неговото однесување да предизвика вистински инцидент во областа на сајбер-безбедноста. „Она што го видовме во врска со активностите на овие агенти е само мал дел од целокупната слика“, изјави истражувачот Конрад Стош од „Transluce“, независна организација за проценка на вештачката интелигенција.

Конор Лихи, истражувач и извршен директор на „ControlAI“, вели дека проблемот не е во обемот на штетата предизвикана од кој било поединечен инцидент. „Неверојатно е“, изјави Лихи, „што имаме работа со автономни системи кои прават работи што експлицитно им се забранети“ – што потенцијално вклучува и кривични дела.

Се очекува одредено ниво на таканаречено „несоодветно однесување“ додека компаниите тестираат нови модели, а експертите за „Axios“изјавија дека целосно елиминирање на овој ризик можеби не е изводливо. Со развојот на способностите на вештачката интелигенција се очекува и понатаму да се појавуваат извештаи за непредвидено однесување на моделите.

Извор: index.hr

Крадењето авторски текстови е казниво со закон. Преземањето на авторски содржини (текстови) од оваа страница е дозволено само делумно и со ставање хиперлинк до содржината што се цитира.

Таа објави дека сега го сака своето природно тело, и покрај негативните коментари на социјалните мрежи за нејзиниот изглед.

Одлука по две децении

Мати ги доби имплантите на 19-годишна возраст, наведувајќи ја како причина „културата во која пораснала“. По долго време таа одлучи да ги отстрани. „Никогаш не сум ги сакала ниту мразела. Го ценев тоа што преку ноќ престанав да се чувствувам несигурно и станав личност која се чувствува поудобно во своето тело и повеќе не размислува за тоа“, објасни таа на социјалните мрежи.

Таа одлучи да се оперира откако забележа дека нејзините пријателки ги отстрануваат имплантите поради здравствени проблеми познати како „болест на импланти во градите“. Иако не мислеше дека има таков проблем, таа отиде на преглед кој потврди дека постои медицинска причина да се отстранат. По процедурата, таа призна дека повторно се заљубила во своето природно тело и дека се чувствува како „да го вратила 16-годишното тело кое никогаш порано не го ценела“.

Од промашување до професионалец во рингот

Пред нејзината боксерска кариера, Аврил Мати изгради значајна кариера во светот на манекенството. Австралијанката со швајцарски корени ја освои титулата Miss Swimsuit USA International во 2014 година, а една година подоцна го освои натпреварот Las Vegas International Model Search. Овој успех ѝ донесе награда од 50 илјади долари и ѝ овозможи да се пресели во Мајами.

За време на нејзината кариера, Мати беше активна и на OnlyFans, каде што објавуваше провокативни еротски фотографии и порно филмови. Јавно зборуваше за таа платформа и самата, а приходите од содржини надвор од боксот ѝ помогнаа да финансира професионална спортска кариера.

View this post on Instagram

A post shared by AM CRUE (@am.crue)

Својата страст кон боксот ја откри кон крајот на 2012 година на 25-годишна возраст. За само шест месеци, го одигра својот прв аматерски натпревар, а професионалната кариера ја започна во декември 2017 година. Се бореше на познати светски сцени, вклучувајќи го и Madison Square Garden. Интересно е што по операцијата за отстранување на имплантот, таа открила дека процедурата неочекувано ѝ помогнала да стане подобар борец.

View this post on Instagram

A post shared by AVRIL (@avrilmathie)

Збогум на боксот

Мати неодамна објави збогум на спортот, кој го нарече „љубовта на својот живот“. Својата професионална кариера ја заврши со рекорд од осум победи, еден пораз и едно реми. На крајот од 2023 година, таа требаше да се бори против сонародничката Ебани Бриџис во меч што медиумите го најавија како „битка на гради“, но мораше да се повлече поради повреда.

Крадењето авторски текстови е казниво со закон. Преземањето на авторски содржини (текстови) од оваа страница е дозволено само делумно и со ставање хиперлинк до содржината што се цитира.

„Ова е војна што Европа ја води против нас“, рече тој на маргините на форумот Валдај во Москва. Во исто време, тој ги отфрли обвинувањата дека руските напади врз товарни бродови што носат западно оружје претставуваат „хибридна тајна војна“ за Украина.

Тој ја опиша употребата на сила од страна на Русија во Украина како самоодбрана насочена кон елиминирање на заканите. „Ако мислите на уништување на инфраструктурата што, со поддршка на Западот, нацистичкиот режим ја користи за водење војна против Руската Федерација, тогаш ние ја потиснуваме таа директна закана со сила“, рече тој.

Разговори со САД

Лавров објави дека наскоро ќе се одржат разговори со Соединетите Американски Држави. „Се договоривме со американскиот државен секретар Марко Рубио дека состанокот ќе се одржи. Експертите треба да ги координираат точните датуми и место“, истакна тој.

Тој го спомена враќањето на рускиот дипломатски имот запленет од САД како едно од отворените прашања во односите меѓу Москва и Вашингтон. Според него, Русија не добила никакви охрабрувачки сигнали од администрацијата на американскиот претседател Доналд Трамп во врска со нејзиното враќање.

„Никогаш немало охрабрувачки коментари од Американците за ова прашање, дури ни под администрацијата на Доналд Трамп“, рече тој. Лавров тврдеше дека САД сè уште се обидуваат да ги наметнат своите еднострани интереси, но додаде дека Вашингтон сепак е принуден да соработува со земји како Русија и Кина.

Ставот на Берлин

Лавров, исто така, коментираше за плановите на Полска за производство на ракети „Патриот“ и учеството на Европа во конфликтот во Украина и ги повика европските земји да ја проучат воената доктрина на Русија. Тој се осврна на неговата средба со германскиот министер за надворешни работи Јохан Вадефул на маргините на Генералното собрание на ОН во Њујорк.

Лавров проценува дека Берлин можеби сака да се вклучи во напорите за решавање на украинскиот конфликт за да не го „пропушти возот“. „Тешко ми е да проценам кон што се стреми Германија.

Мислам дека едно очигледно објаснување е едноставно желбата да не се пропушти возот. Тие веруваат дека возот веќе забрзал - не знам дали тоа е вистина, тешко ми е да проценам дали мислат на украинската криза“, рече тој.

„Русија вечен непријател“

Кога беше прашан за темите на средбата со Вадефул, Лавров рече дека германскиот министер зборувал за „милитаризацијата на Европската Унија“, постојаните повици за проширување на НАТО кон Украина и тврдењата дека „Русија е вечен непријател“ и дека „за три години ќе бидеме во војна“.

„Ако се изговараат такви фрази, а целта - како што самиот г-дин Вадефул најави - е само да се повторуваат зад затворени врати, без медиумите, за Русија наводно да разбере дека навистина е така, тогаш тоа е залуден, па дури и штетен потфат“, изјави тој.

Лавров заклучи дека е „многу тажно“ што некои претставници на ЕУ и НАТО всушност дејствуваат како „портпароли“ за она што го опиша како европска позиција.

Крадењето авторски текстови е казниво со закон. Преземањето на авторски содржини (текстови) од оваа страница е дозволено само делумно и со ставање хиперлинк до содржината што се цитира.