Apple AI каталогизировала ваши фотографии в «бюстгальтере»

Пользователь Твиттера @ellieeewbu обнаружил странность в выборе Apple категоризации фотографий iPhone, обнаружив, что приложение автоматически группирует фотографии бюстгальтеров.

С тех пор несколько женщин ответили на исходный твит, показав результаты для термина «бюстгальтер», которые включают ряд изображений, которые не совсем безопасны для работы.

Похоже, что изображения (все они находятся на фотобарабанах пользователей) каталогизированы программой распознавания изображений, примерно так же, как она группирует изображения, скажем, пляжей или кошек.

Но одно дело — красивые сцены или животные, распознанные ИИ, а другое — анализ интимных фотографий. Понятно, что люди немного нервничают из-за того, что их телефоны могут классифицировать изображения собственного тела без их ведома.

Фактически, ваш iPhone делает это уже больше года. Распознавание изображений было представлено в июне 2016 года в iOS 10, среди которых были «Бюстгальтер» и «Бюстгальтер». 4432 ключевых слова которые Photos способны идентифицировать.

Apple стремится подчеркнуть, что вся эта идентификация объектов выполняется локально, на вашем устройстве. Как Грань отмечает, этого нельзя сказать о Google, у которого есть аналогичная система распознавания изображений для Google Photos – но это делается на облачных серверах компании.

Также возникает вопрос, почему в списке есть «бюстгальтер», но нет никаких признаков мужского нижнего белья, такого как «боксеры» или «брифы». Список распознаваемых изображений обширен, но, тем не менее, существуют авторские решения о том, что включать, а что нет. На каком-то уровне это пример того, как определенное мировоззрение внедряется в якобы нейтральное программное обеспечение, что в конечном итоге может привести к непредвиденным последствиям.