DeepSeek провалил все тесты на безопасность
Инновационный китайский чат-бот DeepSeek, который успешно привлек внимание пользователей благодаря оптимальному соотношению цены и эффективности, нуждается в существенном усовершенствовании систем безопасности. Специалисты из компании Cisco провели детальный анализ и выявили уязвимости в защитных механизмах искусственного интеллекта.
Эксперты провели масштабное исследование DeepSeek R1, применив специальные методики тестирования на основе 50 различных запросов из базы HarmBench. В ходе эксперимента были проанализированы реакции системы на шесть типов потенциально опасных сценариев, включая кибербезопасность, распространение недостоверной информации и другие виды рискованного поведения.
По результатам тестирования выяснилось, что система DeepSeek R1 требует дополнительной настройки защитных механизмов, поскольку не смогла эффективно отфильтровать нежелательные запросы. Это создает значительный контраст с конкурирующими решениями, которые успешно справляются с подобными вызовами.
Аналитики отмечают, что современные ИИ-системы, такие как o1, демонстрируют впечатляющую устойчивость к нежелательным воздействиям благодаря продвинутым средствам защиты.
Эксперты Cisco предполагают, что ограниченное финансирование проекта DeepSeek могло повлиять на качество разработки защитных механизмов. Создатели платформы инвестировали в разработку $6 млн, что значительно меньше бюджетов конкурентов. Для сравнения, только вычислительные ресурсы для обучения будущей GPT-5 от OpenAI оцениваются примерно в $500 млн за полугодовой период.
Интересно отметить, что несмотря на определенные технические уязвимости, DeepSeek демонстрирует высокую избирательность при обработке политически чувствительных тем, особенно касающихся Китая. Система последовательно отклоняет запросы по дискуссионным вопросам, включая темы, связанные с правами этнических меньшинств и историческими событиями в стране.
Несмотря на выявленные недостатки, популярность платформы стремительно растет. За короткий период ежедневная аудитория веб-версии сервиса увеличилась с 300 тысяч до впечатляющих 6 миллионов пользователей.
Стоит отметить, что развитие доступных ИИ-решений продолжается: недавно научное сообщество представило бюджетную альтернативу DeepSeek, затратив на разработку всего $30, что открывает новые перспективы в democratизации искусственного интеллекта.
Источник: www.gazeta.ru
