Анализ методов ограничения генерации нежелательных изображений в диффузионных моделях
Новости
Анализ методов ограничения генерации нежелательных изображений в диффузионных моделях
Аннотация
Современные диффузионные модели подвержены генерации небезопасного содержания вследствие особенностей обучающих данных, собранных из открытых интернет-источников. Обеспечение безопасности генерации является сложной задачей, поскольку существующие механизмы защиты демонстрируют различную эффективность и часто приводят к ухудшению качества изображений. Текущие подходы к систематической оценке ограниченны: они плохо учитывают разнообразие небезопасных сценариев и способов обхода защит, а также слабо принимают во внимание компромисс между безопасностью и качеством генерации. В работе предложена система экспериментальной оценки методов предотвращения генерации небезопасных изображений в диффузионных моделях. Проведено систематическое сравнение методов защиты, применяемых на различных этапах генерации, включая фильтрацию текстовых запросов, модификацию процесса генерации и постобработку изображений. Показано, что ни один из рассмотренных методов не обеспечивает оптимального результата одновременно по всем метрикам для моделей Stable Diffusion версий 1.5 и 2.1. Полученные результаты демонстрируют наличие компромисса между безопасностью и качеством генерации и могут быть использованы при разработке практических систем генерации изображений и оценке их надежности.
Ключевые слова
Издание
Труды Института системного программирования РАН, том 38, вып. 6, часть 2, 2026, стр. 163-186.
ISSN 2220-6426 (Online), ISSN 2079-8156 (Print).
DOI: 10.15514/ISPRAS-2026-38(6)-31
Для цитирования
Полный текст статьи в формате pdf
Вернуться к содержанию тома