Apple выпустила новые правки к своим правилам для разработчиков, добавив запрет на приложения, использующие искусственный интеллект для создания оскорбительного контента, а также на приложения, которые маскируются под обычные, чтобы пройти процесс проверки в App Store, а затем трансформироваться в «nudify»-приложения или ярко демонстрировать такие функции. Компания подчеркивает, что правила касаются и контента, создаваемого пользователями, и механизмов обхода модерации. Такое обновление вводится на фоне возражений против подобных практик и требований к предотвращению вредоносного контента.Источник: блок 0, блок 1.

В обновленных формулировках подчеркивается необходимость фильтрации неприемлемого материала в приложениях, где есть контент, созданный пользователями, и обеспечения возможности жаловаться на оскорбительный контент, а также блокирования злоумышленников. Особенно выделяется запрет на скрытые или не задекларированные функции и на обман во время рассмотрения: если приложение заявляет о одной цели на этапе проверки, но после одобрения демонстрирует вредоносные возможности — например, «nudification» — это рассматривается как ловушка «bait-and-switch». Эти положения размещены в блог-посте Apple.Источник: блок 2.

Кроме того, Apple пообещала удалять приложения, добавляющие функции, которые не were представлены в версии, поданной на проверку. Компания усилила юридическую формулировку, чтобы исключить из магазина приложения, продвигающие торговлю людьми и эксплуатацию детей. Эти пункты являются частью общего курса по усилению контроля за безопасностью и этикой в App Store.Источник: блок 3, блок 4.

Ранее Apple сообщала, что за прошлый год процесс ревью заблокировал более 150 тысяч приложений от попадания к пользователям и удалил 193 тысячи учетных записей разработчиков за мошенничество и злоупотребления. В контексте обсуждений в городе Сан-Франциско в июле были упомянуты требования очистить магазины от nudification-приложений, а чиновники обвинили Apple и Google в получении прибыли за счет сборов за размещение. Весной Tech Transparency Project отмечал, что в магазинах двух технологических гигантов встречались несколько таких приложений, часть из которых была помечена как подходящая для несовершеннолетних.Источник: блок 5, блок 6.