„Опен-АИ“: ВИ самостојно хакирала друга компанија

Американската компанија за вештачка интелигенција, „Опен-АИ“ соопшти дека за време на внатрешна евалуација, нивниот систем за ВИ независно ги хакирал серверите на „Хагинг фејс“, користејќи украдени акредитиви и непозната ранливост.

„Опен-АИ“ го опиша инцидентот како невиден случај во којшто ВИ-агент „дејствувал самостојно за да постигне тесно дефинирана пробна цел“. Според компанијата, системот „отишол до крајни граници“ за да добие класифицирани информации и на тој начин се случиле „измами“ во евалуацијата на моделот. Извршниот директор на „Опен-АИ“, Сем Алтман смета дека ова е значаен безбедносен инцидент за време на евалуација на моделот.

– ВИ го забрзува откривањето и експлоатацијата на ранливостите. Основната лекција од ова несакано случување е дека безбедноста и заштитните мерки на моделот мора да бидат во чекор со брзо напредувачките можности – изјави тој.

„Хагинг фејс“ минатата недела извести дека откриле упад во своите системи за обработка на податоци и дека се сомневаат дека тоа е предизвикано од „ВИ-агент којшто делувал самостојно“, пренесе „Кликс“.

Соосновачот и извршен директор, Клеман Деланг додаде дека со оглед на софистицираноста на агентот, сомнежите говорат и посочиле дека нападот потекнал од водечка лабораторија и ова на крајот се покажало како вистина. Деланг, исто така, рече дека работел со „Опен-АИ“ последните 24 часа до изјавата и оти тие уверуваат дека немало злонамерни побуди. Според него, ова можеби е прв инцидент од ваков вид.

„Опен-АИ“, од своја страна, тврди дека упадот бил резултат на комбинирано дејство на повеќе модели, вклучувајќи го новообјавениот „ГПТ-5.6 сол“ и уште понапреден модел што сѐ уште е во интерно тестирање. Соопштението доаѓа во услови на поширока загриженост за кибер-можностите на моќните системи за вештачка интелигенција, откако американскиот претседател Доналд Трамп во јуни потпиша извршна наредба за проценка на безбедносните ризици на најнапредните модели пред да бидат објавени за јавноста. 

МИА