Поскольку сотни миллионов людей наводняют социальные сети, технологические компании изо всех сил пытаются вытеснить домогательства на своих платформах, и поэтому они обращаются к машинам за помощью. Во вторник Instagram объявила, что делает именно это.

Instagram давно позволяет пользователям сообщать об аккаунтах, которые показывают намерение запугивания или преследования, что противоречит Принципам сообщества, хотя в настоящее время неясно, насколько эффективно и быстро такие счета наказываются или закрываются. Моссери отметил во вторник в блоге, что многие люди, которые испытывают или наблюдают за издевательствами, не сообщают об этом, и что развертывание этих усилий в области машинного обучения наряду с человеческими поможет команде «идентифицировать и устранить значительно больше запугивания». Эта новая технология по словам компании, уже развернута и будет продолжаться в ближайшие недели.

Instagram также добавит свой фильтр комментариев, который скрывает комментарии, содержащие атаки на внешний вид или характер человека, а также угрозы здоровью или здоровью человека. Он уже доступен в разделах Instagram’s Feed, Explore и Profile. Служба также добавила эффект «доброкачественной камеры» для распространения позитивности.