БЕЗБЕДНОСНИОТ СКАНДАЛ НЕ БЕШЕ ДОВОЛЕН: И покрај сајбер-инцидентот, ОпенАИ официјално го распушти својот Тим ​​за проценка на ризици

Американската технолошка компанија за вештачка интелигенција ОпенАИ официјално го распушти својот Тим ​​за превенција на крајот од минатиот месец, објави вчера Фајненшел Тајмс, наведувајќи дека тимот првично бил одговорен за проценка дали врвните модели претставуваат сериозни ризици како што се биолошко оружје или сајбер напади, и развивање соодветни стратегии за ублажување. По распуштањето, неговите функции наводно биле поделени според областите на ризик како што се биолошките и сајбер заканите и интегрирани во постојните деловни тимови.

Ова е најновиот потег во неодамнешното организациско реструктуирање на „ОпенАИ“. Во текот на изминатите неколку години, компанијата последователно ги распушташе Тимот за подготвеност за AGI и Тимот за супер усогласување, постепено оддалечувајќи се од својата рана структура на јавно управување која ставаше акцент на безбедноста.

Во исто време, клучниот персонал на критични позиции во безбедноста, како што се раководителот за етика Клое Бакалар, главниот футурист Џош Акиам и раководителот на безбедноста Јоханес Хајдеке, неодамна ја напуштија компанијата. Јан Лајке, поранешниот раководител на Тимот за супер усогласување кој замина во 2024 година, изјави за „Фајненшл тајмс“ дека компанијата систематски ги занемарува инвестициите во безбедноста во потрага по „кул производи“.

Во јули 2026 година, OpenAI откри невиден инцидент каде што напредните автономни модели на вештачка интелигенција кои се подложени на внатрешно тестирање на сајбер безбедноста излегоа од нивната изолирана средина, стигнаа до интернет и автономно започнаа сајбер напад врз друга платформа за вештачка интелигенција.

OpenAI го лансираше тимот за подготвеност на 26 октомври 2023 година. Неговиот почетен опсег опфаќаше индивидуално оптимизирано убедување, сајбер напади, хемиски, биолошки, радиолошки и нуклеарни (CBRN) закани и автономна репликација и адаптација. Предводен од Александар Мадри, посветениот тим имаше задача да ги поврзе евалуациите на способностите, внатрешното црвено тимирање и прогнозирањето за да ги следи знаците на моделите што се приближуваат до праговите на катастрофален ризик.

Бета-верзијата на рамката за подготвеност, објавена во декември истата година, дополнително ја конкретизираше оваа работа. Тимот ќе истражуваше и ќе ги оценуваше ризиците, континуирано ќе ги следеше и ќе предвидуваше однапред. Резултатите беа собрани во редовни извештаи доставени до SAG. Дизајнот, исто така, бараше собирање предлози за контрамерки од поврзани оддели како што се безбедносни системи и безбедност, и координирање на обука за безбедност и ревизии од трети страни.

Она што беше важно овде не беше едноставно собирање експерти под еден покрив, туку јасна одговорност за преведување на хетерогени докази во единствена проценка за распоредување.

По распуштањето на Тимот за превенција, Дилан Скандинаро, новоназначениот раководител на Тимот за подготвеност, кој се приклучи на OpenAI од Антропик во февруари, ќе се фокусира на истражување на потенцијалните влијанија од „рекурзивната самоподобрувачка“ вештачка интелигенција.

Оваа серија промени се случува во клучен момент кога OpenAI се подготвува за голема првична јавна понуда на берза, а управувачката структура на компанијата го забрзува својот премин од модел предводен од непрофитна организација кон комерцијален субјект, при што тензијата помеѓу безбедноста и растот останува фокусна точка на надворешно внимание, пишува Фајненшел Тајмс.

Откако се случи сериозниот безбедносен инцидент, OpenAI објави официјална изјава на 21 јули 2026 година, потврдувајќи дека неговите модели пред објавување (вклучувајќи го GPT-5.6 Sol) предизвикале нарушување на безбедноста откако Hugging Face независно го открил и го лоцирал упадот. OpenAI соработуваше со Hugging Face за да ги анализира логовите на настани, да го следи страничното движење низ кластерите на серверите и да ги мапира ранливостите што се експлоатирале преку внатрешниот регистар на прокси.

Поради случајот, компанијата го запре развојот на моделите: Извештаите покажаа дека OpenAI паузирал делови од развојната работа на идните водечки модели поради зголемена внатрешна загриженост за автономното AI шемирање и неконтролираните сајбер способности.