Эксперты предупреждают: китайские модели ИИ могут действовать как цифровые «спящие ячейки» в сетя...

Описание: Китайские модели искусственного интеллекта быстро набирают популярность в Соединенных Штатах, отчасти благодаря снижению затрат и расширению возможностей. Однако новый отчет оборонного подрядчика Booz Allen Hamilton поднимает вопросы о том, могут ли эти сбережения сопровождаться рисками в сфере кибербезопасности.

Исследователи компании изучили четыре широко используемые китайские модели ИИ, чтобы оценить их работу при написании компьютерного кода. Их выводы показывают, что некоторые модели генерировали значительно больше уязвимостей в определенных условиях, особенно когда их заставляли верить, что они работают на пользователей правительства США.

«Можно ли доверять коду, разработанному этими моделями ИИ?» — задал вопрос Брэд Медейри, президент национального подразделения кибербезопасности Booz Allen.

Согласно исследованию, уязвимости не были традиционным вредоносным ПО или очевидным вредоносным кодом. Вместо этого, по словам исследователей, некоторые модели, по-видимому, изменяли свое поведение в зависимости от личности пользователя, создавая программное обеспечение со слабыми местами, которые потенциально могут быть использованы злоумышленниками.


«В контексте уязвимостей речь идёт о новом классе угроз», — заявил Эрик Сифард, старший вице-президент компании Booz Allen.

Исследователи сравнили это явление с «спящим агентом» — системой, которая, казалось бы, функционирует нормально, пока определённые условия не вызовут другую реакцию. В отличие от обычных кибератак, основанных на взломе сетей хакерами или использовании уязвимостей программного обеспечения, опасение заключается в том, что организации могут неосознанно создавать уязвимости, просто полагаясь на код, сгенерированный ИИ.

«Это категория угроз, которую мы, как страна, должны научиться количественно оценивать и измерять, как применять меры защиты, которые не будут препятствовать инновациям, но и обеспечат безопасность этих систем», — сказал Сифард.

Сторонники доклада утверждают, что полученные результаты подчёркивают риски зависимости от разработанных за рубежом инструментов ИИ для важных правительственных, военных и критически важных инфраструктурных приложений.

«Реальный вопрос здесь: хотим ли мы использовать китайские модели, обученные на основе китайской доктрины, которые создают более уязвимый код в системах, обеспечивающих работу нашей критической инфраструктуры или систем национальной безопасности?» Медейри сказал:

Не все согласны с тем, что полученные результаты позволяют сделать широкие выводы. Критики утверждают, что необходимы дополнительные исследования, чтобы определить, является ли наблюдаемое поведение уникальным для китайских моделей или отражает более широкие проблемы, с которыми сталкиваются большие языковые модели.

Консультант по технологиям и старший научный сотрудник Королевского колледжа Лондона заявил Fox News Digital, что отчет «недооценивает сложность проблемы».

---------------------
Оставайтесь на связи с нами онлайн и в социальных сетях!

Посетите наш веб-сайт: https://kval.com/
Подписывайтесь на нас в X:   / kvalnews  
Подписывайтесь на нас в IG:   / kvalnews  

Есть новость?

[email protected]

#liveonkval #KVAL #Eugene #Springfield #Corvallis #Albany #Roseburg #CoosBay #Oregon #News #LocalNews #OregonNews #KVALNews #PNW #PacificNorthWest #EugeneOregon #SpringfieldOregon #CorvallisOregon #AlbanyOregon #RoseburgOregon #CoosBayОрегон