Крадењето авторски текстови е казниво со закон. Преземањето на авторски содржини (текстови) од оваа страница е дозволено само делумно и со ставање хиперлинк до содржината што се цитира.

На Reddit се разви дискусија околу едно хипотетичко сценарио: што би направиле ако таткото на вашиот партнер/ка кој е милијардер ви понуди шест милиони долари за да ја прекинете врската? Прашањето беше објавено на подфорумот r/AskReddit и набргу предизвика низа духовити, цинични и прилично безобѕирни одговори.

„Побарај 10 милиони“

Најпопуларниот коментар, кој доби импресивни 16.000 гласови, беше краток и јасен: „Побарај 10 милиони“.

Следуваа и подетални предлози. Еден корисник напишал дека прво би ја покажал понудата на партнерката за да открие што се обидува да направи татко ѝ. Потоа прокометирал дека заедно би можеле да смислат начин да „извлечат повеќе пари од старецот“ пред да побегнат заедно.

Друг корисник отишол многу подалеку, шегувајќи се дека со тие пари би можеле да „ангажираат платен убиец“, што би довело до она што тој го опишал како „заедничко гарантирано уништување“. „Но, таткото може да си дозволи повеќе платени убијци“, возвратил друг корисник.

Некои споделиле искуства од реалниот живот

Еден од корисниците претпоставил дека таквата понуда всушност би можела да биде тест. Тој се присетил како неговиот татко еднаш направил нешто слично со едно момче што се гледало со неговата сестра. Наводно, таткото му понудил неколку стотици долари (или повеќе) за да ја прекине врската со неговата ќерка, бидејќи сакал таа да го продолжи образованието, а врската да не ѝ ги попречи плановите. „Момчето ги зеде парите, а еден час подоцна сестра ми му се јави на татко ми плачејќи дека дечко ѝ ја оставил“, напишал корисникот, додавајќи дека верува оти татко му постапил правилно.

Во друг коментар, еден корисник споделил приказна за поранешен колега кој, според него, не бил особено бистар, но направил една многу паметна работа во животот: се оженил со ќерка на милијардер. Тој, наводно, првично го советувал колегата да не се впушта во врска со ќерка на толку познат и богат човек, но колегата не го послушал.

Подоцна тој ја изневерил, а бракот завршил со развод. Корисникот се присетил дека по разводот на бирото кај својот колега видел чек за алиментација од 25.000 долари, тврдејќи дека тој износ го примал секој месец и требало да го добива до крајот на животот.

Многумина прашале зошто тој воопшто сè уште работи, со оглед на тоа што со таков месечен приход лесно би му овозможил да се пензионира. Други пак коментираа дека им е чудно што милијардерот не инсистирал на предбрачен договор.

„Би уживал во моите шест милиони“

Некои учесници во дискусијата немале дилеми. „Би уживал во моите шест милиони долари“, напишал еден корисник, добивајќи повеќе од 300 гласови. Друг бил уште подиректен: „Ако еден милијардер не те сака во своја близина, нема ни да бидеш таму“.

Судејќи според коментарите, шест милиони долари навистина би биле доволно силна причина за многумина да стават крај на врската.

Извор: index.hr

Крадењето авторски текстови е казниво со закон. Преземањето на авторски содржини (текстови) од оваа страница е дозволено само делумно и со ставање хиперлинк до содржината што се цитира.

OpenAI, Anthropic и експертите за безбедност истражуваат десетици илјади инциденти во кои нивните напредни модели на вештачка интелигенција презеле дејствија кои надворешните проценители ги сметаат за проблематични.

Според сознанијата на Axios, големиот број случаи - регистрирани во последните месеци за време на внатрешното тестирање и во реалната примена, покажуваат дека проблемот е многу посложен отколку што се сметаше во јавноста. Наодите од внатрешните проценки, исто така, го поставуваат прашањето дали водечките компании во тој сектор воопшто би можеле да воспостават целосна контрола врз нивната технологија.

Природата на инцидентите

Изворите известуваат дека инцидентите вклучуваат заобиколување на безбедносните протоколи, самостојно покревање форуми за дискусија на Интернет, излегување од изолираните средини за тестирање (познати како „песочни кутии“), преземање контрола врз веб-страници и обид за избегнување на надзор. Вакви случаи имало и при интерни тестирања и во реални услови; многу од нив сè уште не се објавени бидејќи експертите за безбедност продолжуваат со истрагата.

Дел од тестирањата се спроведуваат како „red teaming”, процес каде што компаниите намерно провоцираат несоодветно однесување кај моделите за да се процени безбедноста на системот. Проблематичното однесување од страна на автономните агенти станува сè почеста појава во развојот на напредната вештачка интелигенција.

Водечките лаборатории за вештачка интелигенција се соочуваат со сличен предизвик: луѓето се обидуваат да постават заштитни механизми додека моќните системи се стремат да ги извршат задачите по секоја цена.

Одговорот на OpenAI

Според компанијата OpenAI, нејзините истражувачи заедно со други надворешни истражувачи неодамна објавија низа вознемирувачки инциденти. Меѓу нив, случаи во кои агентите на OpenAI на Интернет објавиле 53 слики од корисници на ChatGPT, упаднале на веб-страницата на австралиската влада и се обиделе да хакираат други страници - вклучително и оние на американската влада - според Reuters и New York Times.

OpenAI објави привремено запирање на обуката на своите најспособни модели. Портпаролот за Axios изјави дека работата ќе продолжи „само кога ќе бидат сигурни дека се воведени дополнителни заштитни мерки и е подобрена усогласеноста на системот“. Извршниот директор Сем Алтман на „X“ објави дека внатрешната ревизија „не се одвива така брзо како што би сакале“.

Алтман истакна дека инцидентот поврзан со платформата „Hugging Face“ е најсериозен досега. Во тој случај, група од стотина агенти ги координирале своите активности преку форуми и хакирале надворешна компанија со цел да ги подобрат сопствените резултати на тестот за кибернетичка безбедност.

Ситуацијата во „Anthropic“

„Anthropic“ ангажираше надворешна безбедносна организација за да го испита однесувањето на своите модели. Во јавно објавените документи, компанијата ја откри зачестеноста на епизодите на „неусогласеност“ (misalignment). Извештајот за моделот „Opus 5.5“, објавен оваа недела, покажа колку често моделот реагирал на начин што компанијата го сметала за невообичаен или проблематичен.

На пример, моделот се обидел да излезе од безбедната тест-средина во 1,5 отсто од случаите. Сепак, компанијата напоменува дека станувало збор за експерименти во кои задачата не можела да се реши без преземање на тој чекор.

Бидејќи „Anthropic“ и другите компании спроведуваат стотици илјади тестови, дури и мал процент на непредвидено однесување може да резултира со десетици илјади инциденти во кои моделите постапиле неочекувано – а понекогаш и загрижувачки.

Пошироки импликации и дискусија

Инцидентот со платформата „Hugging Face“, заедно со низата последователни настани, ги поттикна лидерите во индустријата за вештачка интелигенција да повикаат на забавување на развојот и да побараат построга национална и меѓународна регулатива.

Некои во „OpenAI“ го гледаат случајот со „Hugging Face“ како изолиран инцидент; тие веруваат дека идните појави веројатно ќе бидат помалку сериозни поради подобрената контрола и специфичната природа на тој тест, кој вклучувал модел што сè уште не бил пуштен во јавна употреба.

Експертите за безбедност на вештачката интелигенција се согласуваат дека постојат едноставни решенија кои можат да им помогнат на компаниите да ги избегнат ситуациите поради кои случајот со „Hugging Face“ изгледал толку опасно.

Сепак, други раководители и истражувачи предупредуваат дека немаат доверба во способноста на компаниите за вештачка интелигенција да го спречат секое проблематично однесување на моделите. Новата генерација модели со вештачка интелигенција ги извршува задачите со исклучителна упорност, поради што секој обид да се ограничи нивната снаодливост често е однапред изгубена битка. Невозможно е да се предвидат сите начини на кои еден систем би можел да излезе од контрола.

Лидерите на компаниите за вештачка интелигенција забележуваат дека моделите често користат техники за заобиколување на правилата што на луѓето никогаш не би им паднале на ум. „Обидот да се состави совршена листа на дозволени и забранети дејства веројатно е залудна работа“, изјавил експерт за кибернетичка безбедност.

Експертски проценки

Загриженоста расте бидејќи, доколку некој модел постојано прави проблематични потези за време на тестирањето, постои поголема веројатност неговото однесување да предизвика вистински инцидент во областа на сајбер-безбедноста. „Она што го видовме во врска со активностите на овие агенти е само мал дел од целокупната слика“, изјави истражувачот Конрад Стош од „Transluce“, независна организација за проценка на вештачката интелигенција.

Конор Лихи, истражувач и извршен директор на „ControlAI“, вели дека проблемот не е во обемот на штетата предизвикана од кој било поединечен инцидент. „Неверојатно е“, изјави Лихи, „што имаме работа со автономни системи кои прават работи што експлицитно им се забранети“ – што потенцијално вклучува и кривични дела.

Се очекува одредено ниво на таканаречено „несоодветно однесување“ додека компаниите тестираат нови модели, а експертите за „Axios“изјавија дека целосно елиминирање на овој ризик можеби не е изводливо. Со развојот на способностите на вештачката интелигенција се очекува и понатаму да се појавуваат извештаи за непредвидено однесување на моделите.

Извор: index.hr

Крадењето авторски текстови е казниво со закон. Преземањето на авторски содржини (текстови) од оваа страница е дозволено само делумно и со ставање хиперлинк до содржината што се цитира.