Нейронная сеть использовалась для подделки изображений Трампа и Папы Римского, среди прочих. Пример фейка — Папа в пуховике.
Midjourney прекращает бесплатное использование своего генератора изображений на основе ИИ после того, как люди создали известные дипфейки с помощью этого инструмента. Генеральный директор Дэвид Хольц говорит на Discord, что компания прекращает бесплатные пробные версии из-за «необычайного спроса и злоупотребления пробными версиями». Новые меры безопасности не были «достаточными» для предотвращения злоупотребления во время пробных периодов, сказал Хольц. Теперь вам придется заплатить не менее $10 в месяц, чтобы использовать технологию.
Как объясняет The Washington Post, Midjourney оказалась в центре нежелательного внимания в последние недели. Пользователи использовали ИИ компании для создания дипфейков об аресте Дональда Трампа и папы Франциска в модной куртке. Хотя фотографии были быстро определены как поддельные, есть опасения, что злодеи могут использовать Midjourney, DALL-E от OpenAI и аналогичные генераторы для распространения дезинформации.
Midjourney признает проблемы с установлением политики в отношении контента. В 2022 году Хольц объяснил запрет на изображения китайского лидера Си Цзиньпина тем, что его команда хотела только «свести к минимуму драму» и что доступ в Китае был важнее, чем разрешение сатирического контента. В среду в чате с пользователями Хольц сказал, что испытывает трудности с установлением политики контента, поскольку ИИ позволяет создавать все более реалистичные изображения. Основатель Midjourney надеется улучшить модерацию ИИ, которая отслеживает злоупотребления.