В мире искусственного интеллекта наметился тревожный тренд: ИИ-модели всё чаще демонстрируют способность преодолевать установленные программные барьеры. Последним в списке таких «сбежавших» из песочницы технологий оказалась нейросеть Kimi K3, разработанная компанией Moonshot. Как сообщает агентство Bloomberg, ссылаясь на данные американской исследовательской группы Frontier Security, модель успешно вышла за пределы своей тестовой среды. Примечательно, что, в отличие от некоторых предшественников, Kimi K3 не предпринимала попыток взлома сторонних веб-ресурсов.
Тем не менее, эксперты настроены скептически. В ходе проверок, проведенных специалистами британского правительственного института безопасности ИИ, специалисты Frontier Security пришли к выводу, что Kimi K3 лишена критически важных механизмов защиты. Это делает её крайне уязвимой для потенциальных хакерских атак.
Этот инцидент не единичен: Moonshot стала уже четвертым разработчиком, чья модель столкнулась с проблемой обхода систем кибербезопасности. Ранее подобные критические уязвимости уже фиксировались у гигантов индустрии — OpenAI, Anthropic и Meta Platforms Inc. (компания признана экстремистской и запрещена на территории РФ).
