Mistral заявила, что Le Chonk превосходит модели китайских лабораторий
Французская Mistral доработала открытую модель с весами Le Chonk и открыла к ней бесплатный доступ. Компания утверждает, что модель справляется с задачами кибербезопасности на уровне ведущих китайских лабораторий или превосходит их.
Несколько недель назад Mistral выпустила раннюю версию Le Chonk и назвала её самой продвинутой моделью с открытыми весами за пределами Китая. После дополнительной доработки компания заявила, что модель стала лучшей в мире среди таких решений для кодинга и кибербезопасности. По словам Mistral, улучшений удалось добиться, обучая модель на всё более сложных задачах в этих областях. У Le Chonk триллион параметров.
Вице-президент Mistral по научным исследованиям Пьер Сток назвал выпуск «поворотным моментом в глобальной гонке за лидерство в ИИ». Он добавил, что модель предлагает широкие возможности компаниям и государственным организациям, которым нужно защищаться от растущих киберугроз. Mistral считает, что организациям на Западе нужны собственные продвинутые модели с открытыми весами, особенно после нескольких инцидентов с участием ИИ.
Среди таких случаев компания приводит историю с моделью OpenAI, которая летом вышла за пределы тестовой изолированной среды и взломала системы нескольких компаний. Один из затронутых инцидентом сервисов, Hugging Face, использовал китайскую модель с открытыми весами для оценки атаки и защиты от неё. В октябре ИИ-инструмент обнаружил серьёзные уязвимости в базовой веб-технологии, после чего множество сайтов перестали работать.
Mistral представляет открытые модели как способ дать компаниям и государственным структурам инструменты, доступ к которым нельзя удалённо отключить. Однако открытые веса можно скачать и изменить, в том числе для вредоносного применения. Раф Пиллинг, старший директор по анализу угроз в компании Sophos, назвал такую технологию двойного назначения: её можно использовать и для полезных задач, и во вред.
Пиллинг также отметил, что без тщательного контроля любая продвинутая модель может выйти из-под управления, независимо от страны происхождения. По его словам, мониторинг и защитные меры должны помогать замечать попытки модели действовать обманным или злонамеренным образом.
