Австралия обяви, че автономен AI агент, разработен от OpenAI, е проникнал в няколко австралийски правителствени системи, включително в портала на националната здравна система на Австралия Medicare, предаде Би Би Си.

Технологичната компания призна, че агентите са извършили неоторизирани действия. Хакването на системата се е случило през юни, но OpenAI е уведомила австралийските власти едва в началото на септември - три месеца по-късно.

Самата компания също е научила със закъснение за пробива. Те разбират през август. На австралийските власти пък съобщават чрез имейл в общодостъпна електронна поща на Services Australia, което допълнително е забавило достигането на информацията до отговорните институции.

За случая съобщи премиерът Антъни Албанезе в Ню Йорк, определяйки случилото се като неприемливо.

По думите му AI агентът е получил неоторизиран достъп до портала за медицинска статистика на правителствена агенция, отговаряща за здравни данни и статистика, които не са поверителни, включително публичните разходи за здравеопазване.

Инцидентът е станал, когато AI агентът е извършвал изследване на здравни и медицински данни. Вместо да остане в рамките на възложената му задача, той е стигнал до файлове, които не са били публично достъпни. AI агентът е бил използван от OpenAI за вътрешна оценка на възможностите на моделите и е изпълнявал задача за проучване на публични данни за медицинските разходи в Австралия.

След като част от търсената информация се оказала недостъпна, агентът намерил начин да заобиколи ограниченията и да достигне до файлове, до които не е имал разрешение.

„Имаше ясно обозначени блокировки, които казваха на AI агента „не“. AI агентът намери начин да заобиколи тези блокировки - просто не прие „не“ за отговор“, каза австралийският премиер.

По думите му наличните към момента доказателства сочат, че няма по-мащабен пробив в мрежата досега.

Агенция Ройтерс посочва, че този пробив е един от най-значимите инциденти, при които субекти с AI получават достъп до компютърни системи извън границите на САЩ, и се случва на фона на редица скорошни пробиви в световен мащаб, извършени от неконтролиран AI.

Албанезе съобщи, че е разговарял с главния изпълнителен директор на OpenAI Сам Алтман и е изразил „изключителната загриженост“. Премиерът разкритикува както забавянето, така и начина, по който компанията е съобщила за казуса.

CNN посочва, че австралийското правителство е съобщило, че модели на OpenAI са взаимодействали и с още три правителствени сайта - на Австралийския институт за здраве и социално благосъстояние, Министерството на здравеопазването на щата Виктория и Бюрото за криминална статистика и изследвания на Нов Южен Уелс.

При тях обаче не е установен неоторизиран достъп - използвана е публично достъпна информация.

Притеснителното в случая обаче е още един случай, че AI агент може да излезе извън предварително зададените ограничения и да взаимодейства с реални външни системи.

Преди две седмици ръководителят на компанията за изкуствен интелект Anthropic Дарио Амодей призова темпото на разработване на моделите с изкуствен интелект да бъде забавено, за да може държавите да създадат подходяща регулация.

Шефът на OpenAI Сам Алтман призна, че стандартите за разработване на AI „не са на ниво“ и посочи, че е възможно да бъде създаден AI, който хората не могат да контролират.

Инцидентът в Австралия идва на фона на засилващ се дебат за необходимостта от международни правила за развитието и използването на подобни системи заради зачестилите подобни случаи и предупрежденията на редица експерти за предстояща заплаха.