7 из 9 инструментов Hugging Face генерируют дипфейки без фильтров

Некоммерческая организация AI Forensics протестировала девять популярных инструментов для обработки фото на платформе Hugging Face и обнаружила, что семь из них по простому текстовому запросу генерируют обнаженные изображения реальных людей. При этом модерация на выходе работает только у 3% проверенных инструментов, хотя политика Hugging Face официально запрещает такой контент.

Исследование проведено на фоне объявления о покупке платформы компанией Nvidia за $12,9 млрд.