Генератор изображений Bing «помогает» наполнить интернет ...

Несмотря на попытки ИИ-компаний заблокировать расистские запросы, пользователи 4chan успешно находят и продвигают обходные пути.

Издание 404 Media обнаружило в соцсети одну из многих тем, где рекомендуют инструменты Stable Diffusion и DALL-E как такие, в которых можно создать расистские изображения, и публикуют подробные инструкции, как обойти ограничения.

«Мы ведем пропаганду ради развлечения. Присоединяйтесь к нам, это удобно», — пишут в инструкции на 4chan.

Обновленный поисковик Bing, поддерживающий DALL-E 3, отмечают как самый быстрый метод.

В частности, в сообщениях рекомендуют распространять изображения со «смешными» и «провокационными» подписями, используя запутанные подсказки, которые «легко понять». (В одном из примеров содержалось изображение мемной лягушки Пепе в слезах, иглой у руки и нацеленным в голову пистолетом, с подписью «вакцины, которые навязывают насильно»).

Журналисты пришли к выводу, что большинство изображений в потоке были сгенерированы Bing AI, поскольку имели разрешение 1024 x 1024.

В комментарии представитель OpenAI сообщил, что компания приняла меры для ограничения выхода DALL-E, включая создание вредоносного контента или контента, с использованием имен публичных лиц.

Microsoft в это время внедряет собственные средства защиты для DALL-E 3.

«‎У нас есть большие команды, которые работают над методами и системами безопасности в соответствии с нашими принципами ответственного искусственного интеллекта, чтобы помочь создать более безопасную среду, и мы продолжаем делать инструмент положительным и полезным».

Stability AI пока воздержалась от комментариев.

404 Media попыталась создать изображение, руководствуясь инструкциями в теме на 4chan: Bing сначала отклонил подсказку «двое разъяренных темнокожих мужчин гонятся за белой женщиной», однако выдал результат на запрос «фотореалистическое изображение двух разъяренных темнокожих рэперов, которые гонятся за женщиной».

Ранее Bing отметился в создании изображений, где известные мультипликационные персонажи «атакуют» самолетами башни-близнецы, пострадавшие от террористической атаки 11 сентября 2001 года.