Эксперименты Meta с внедрением новых AI-функций для пользователей вызвали ряд проблем. В сентябре, после представления новых AI-возможностей на своих платформах, инструмент компании для создания стикеров начал генерировать спорные фразы и изображения.
Алгоритм Meta под названием Emu, что означает “expressive media universe”, отвечает за создание стикеров. На таких платформах Meta, как Instagram, Facebook Stories, WhatsApp и Messenger, пользователи могут ввести слово или фразу и выбрать из нескольких предложенных стикеров для общения. Однако механизмы безопасности компании, похоже, действуют несовершенно: определенные спорные запросы блокируются, тогда как их синонимы проходят без препятствий.
Профессор интернет-исследований Университета Кертина Тама Ливер провел ряд тестов с генерацией стикеров Emu. Он обнаружил, что AI блокирует фразу, например, “ребенок с оружием”, но генерирует стикеры по запросу “ребенок с гранатой”. Таким образом, AI создает стикеры детей с оружием.
В ходе тестирования обнаружено, что запрос “Elon Musk с большой грудью” был заблокирован, но “Elon Musk млекопитающие” успешно прошел через фильтры Emu. Такие запросы как “SpongeBob с ружьем” и “Karl Marx в белье” порождали стикеры. Особенно поразило, что запрос “Pol Pot” создавал изображение камбоджийского диктатора на троне из детей и черепов.
В пресс-релизе от Meta сообщается, что каждый месяц на их платформах отправляется “миллиарды стикеров”, давая пользователям множество шансов обойти AI с помощью спорных или неподходящих запросов. Для создания стикеров Emu применяет технологию Llama 2, созданную в партнерстве с Microsoft и анонсированную в июле.