OpenAI, Anthropic и експертите за безбедност истражуваат десетици илјади инциденти во кои нивните напредни модели на вештачка интелигенција презеле дејствија кои надворешните проценители ги сметаат за проблематични.

Според сознанијата на Axios, големиот број случаи - регистрирани во последните месеци за време на внатрешното тестирање и во реалната примена, покажуваат дека проблемот е многу посложен отколку што се сметаше во јавноста. Наодите од внатрешните проценки, исто така, го поставуваат прашањето дали водечките компании во тој сектор воопшто би можеле да воспостават целосна контрола врз нивната технологија.

Природата на инцидентите

Изворите известуваат дека инцидентите вклучуваат заобиколување на безбедносните протоколи, самостојно покревање форуми за дискусија на Интернет, излегување од изолираните средини за тестирање (познати како „песочни кутии“), преземање контрола врз веб-страници и обид за избегнување на надзор. Вакви случаи имало и при интерни тестирања и во реални услови; многу од нив сè уште не се објавени бидејќи експертите за безбедност продолжуваат со истрагата.

Дел од тестирањата се спроведуваат како „red teaming”, процес каде што компаниите намерно провоцираат несоодветно однесување кај моделите за да се процени безбедноста на системот. Проблематичното однесување од страна на автономните агенти станува сè почеста појава во развојот на напредната вештачка интелигенција.

Водечките лаборатории за вештачка интелигенција се соочуваат со сличен предизвик: луѓето се обидуваат да постават заштитни механизми додека моќните системи се стремат да ги извршат задачите по секоја цена.

Одговорот на OpenAI

Според компанијата OpenAI, нејзините истражувачи заедно со други надворешни истражувачи неодамна објавија низа вознемирувачки инциденти. Меѓу нив, случаи во кои агентите на OpenAI на Интернет објавиле 53 слики од корисници на ChatGPT, упаднале на веб-страницата на австралиската влада и се обиделе да хакираат други страници - вклучително и оние на американската влада - според Reuters и New York Times.

OpenAI објави привремено запирање на обуката на своите најспособни модели. Портпаролот за Axios изјави дека работата ќе продолжи „само кога ќе бидат сигурни дека се воведени дополнителни заштитни мерки и е подобрена усогласеноста на системот“. Извршниот директор Сем Алтман на „X“ објави дека внатрешната ревизија „не се одвива така брзо како што би сакале“.

Алтман истакна дека инцидентот поврзан со платформата „Hugging Face“ е најсериозен досега. Во тој случај, група од стотина агенти ги координирале своите активности преку форуми и хакирале надворешна компанија со цел да ги подобрат сопствените резултати на тестот за кибернетичка безбедност.

Ситуацијата во „Anthropic“

„Anthropic“ ангажираше надворешна безбедносна организација за да го испита однесувањето на своите модели. Во јавно објавените документи, компанијата ја откри зачестеноста на епизодите на „неусогласеност“ (misalignment). Извештајот за моделот „Opus 5.5“, објавен оваа недела, покажа колку често моделот реагирал на начин што компанијата го сметала за невообичаен или проблематичен.

На пример, моделот се обидел да излезе од безбедната тест-средина во 1,5 отсто од случаите. Сепак, компанијата напоменува дека станувало збор за експерименти во кои задачата не можела да се реши без преземање на тој чекор.

Бидејќи „Anthropic“ и другите компании спроведуваат стотици илјади тестови, дури и мал процент на непредвидено однесување може да резултира со десетици илјади инциденти во кои моделите постапиле неочекувано – а понекогаш и загрижувачки.

Пошироки импликации и дискусија

Инцидентот со платформата „Hugging Face“, заедно со низата последователни настани, ги поттикна лидерите во индустријата за вештачка интелигенција да повикаат на забавување на развојот и да побараат построга национална и меѓународна регулатива.

Некои во „OpenAI“ го гледаат случајот со „Hugging Face“ како изолиран инцидент; тие веруваат дека идните појави веројатно ќе бидат помалку сериозни поради подобрената контрола и специфичната природа на тој тест, кој вклучувал модел што сè уште не бил пуштен во јавна употреба.

Експертите за безбедност на вештачката интелигенција се согласуваат дека постојат едноставни решенија кои можат да им помогнат на компаниите да ги избегнат ситуациите поради кои случајот со „Hugging Face“ изгледал толку опасно.

Сепак, други раководители и истражувачи предупредуваат дека немаат доверба во способноста на компаниите за вештачка интелигенција да го спречат секое проблематично однесување на моделите. Новата генерација модели со вештачка интелигенција ги извршува задачите со исклучителна упорност, поради што секој обид да се ограничи нивната снаодливост често е однапред изгубена битка. Невозможно е да се предвидат сите начини на кои еден систем би можел да излезе од контрола.

Лидерите на компаниите за вештачка интелигенција забележуваат дека моделите често користат техники за заобиколување на правилата што на луѓето никогаш не би им паднале на ум. „Обидот да се состави совршена листа на дозволени и забранети дејства веројатно е залудна работа“, изјавил експерт за кибернетичка безбедност.

Експертски проценки

Загриженоста расте бидејќи, доколку некој модел постојано прави проблематични потези за време на тестирањето, постои поголема веројатност неговото однесување да предизвика вистински инцидент во областа на сајбер-безбедноста. „Она што го видовме во врска со активностите на овие агенти е само мал дел од целокупната слика“, изјави истражувачот Конрад Стош од „Transluce“, независна организација за проценка на вештачката интелигенција.

Конор Лихи, истражувач и извршен директор на „ControlAI“, вели дека проблемот не е во обемот на штетата предизвикана од кој било поединечен инцидент. „Неверојатно е“, изјави Лихи, „што имаме работа со автономни системи кои прават работи што експлицитно им се забранети“ – што потенцијално вклучува и кривични дела.

Се очекува одредено ниво на таканаречено „несоодветно однесување“ додека компаниите тестираат нови модели, а експертите за „Axios“изјавија дека целосно елиминирање на овој ризик можеби не е изводливо. Со развојот на способностите на вештачката интелигенција се очекува и понатаму да се појавуваат извештаи за непредвидено однесување на моделите.

Извор: index.hr

Крадењето авторски текстови е казниво со закон. Преземањето на авторски содржини (текстови) од оваа страница е дозволено само делумно и со ставање хиперлинк до содржината што се цитира.