Instagram плохо борется с суицидальным контентом

Ассоциация профессиональных пользователей соцсетей и мессенджеров (АППСИМ) проверили, как соцсети борются с суицидальными постами и группами. Хуже всего блокируют опасный контент Facebook и Instagram. Из-за халатного отношения к подобным публикациям в Великобритании разгорелся скандал. Соцсети обвиняют в неэффективной борьбе с контентом, способным толкать подростков к суициду и нанесению себе увечий.

В рамках эксперимента АППСИМ, в специально созданных группах, были размещены посты с картинками о депрессивном мире. Они гласили, что выхода в этой жизни нет, все пути ведут в тупик. В публикациях также излагались мысли о нехватке легкости и позитива в жизни. При этом прямых призывов к самоубийству в рамках эксперимента в постах сделано не было.

Также в рамках исследования был проведен мониторинг соцсетей для поиска постов и групп с призывами к самоубийствам. На найденные записи, которые могут толкать подростков к суициду и нанесению себе увечий, были отправлены жалобы модераторам сайтов.

Больше всего усилий в борьбе с такого рода сообществами и постами проделала администрация ВКонтакте. В частности, они заблокировали поиск по самым популярным хэштегам суицидальной тематики, например, #тихийдом, #синиекиты, #f57 и другие. Также они запустили информационно-справочный раздел «Центр безопасности», в котором пользователи могут узнать о борьбе с запрещенной информацией. В частности, администрация ресурса отмечает, что с начала 2018 года в соцсети было удалено более 7,9 миллионов единиц контента, связанного с одобрением суицида и нанесения увечий. Блокировались фотографии, видеозаписи, публикации и аудио.

В рамках эксперимента были удалены все группы и публикации суицидальной направленности, на которые были поданы жалобы. А найти активные публикации с опасным контентом, не удалось.

С Одноклассниками ситуация была похожа. В разделе “Пожаловаться» на пост отсутствует пункт «суицидальный контент/нанесение себе увечий». Причину предлагалось выбрать из трех пунктов:

  1. Эротика, порнография
  2. Спам, реклама
  3. Оскорбление других пользователей

Для жалоб приходилось выбирать пункт «Оскорбление других пользователей». И дополнительно отправлять сообщение службе поддержки со ссылкой на пост с суицидальным контентом. Однако в процессе мониторинга удалось найти небольшое количество постов с опасным контентом, помеченных хэштегом #синийкит

— У российских соцсетей есть большой плюс по сравнению с иностранными. ВКонтакте и Одноклассники дают возможность не только пожаловаться на конкретный пост, нажав соответствующую соответствующую кнопку в меню, но также они позволяют пользователям написать личное сообщение “группе поддержки” и отправить им ссылку на пост с опасным контентом, — заявил директор АППСИМ Владимир Зыков.

Очень плохо себя показал Facebook, модераторы которого не нашли ничего опасного в подобном контенте. Ни один пост и группа, созданные для эксперимента, не были удалены.  

Также по суицидальным хэштегам #синийкит удалось найти небольшое количество опасного контента.

Очень плохо обстоят дела в Instagram. Созданные нами публикации в рамках эксперимента не были удалены. В разделе «Пожаловаться на неуместные материалы», довольно большой список запрещенного контента, среди которых есть «нанесение себе увечий», но отсутствует раздел «самоубийства».    

Чтобы найти суицидальный контент нам не понадобилось даже использовать специальные системы мониторинга. Сотни постов с опасным контентом находятся в instagram по суицидальным хэштэгам #синийкит, #синийкит_тихийдом, #синийкитявигре, и тд.

Из полезных инструментов, которые запустил instagram для пользователей – сервис «Чем мы можем вам помочь». Если пользователь нажимает на суицидальные хэштеги, то может появится системное уведомление: «Публикации со словами или тегами, которые вы ищите, зачастую поддерживают поведение, которое может привести к причинению вреда или даже смерти. Если вы столкнулись с какими-то трудностями, мы всегда готовы вам помочь». Далее стоит ссылка на раздел «Поддержка» – https://help.instagram.com/resources/63617265

В этом разделе пользователю дают неоднозначные советы, как отвлечься от суицидальных мыслей или предлагают позвонить в службы психологической поддержки.

— Сказать, что instagram не удаляет суицидальный контент – нельзя. Посты подобной направленности регулярно блокируются администрацией ресурса. Но складывается ощущение, что весь процесс борьбы идет в вяло текущем виде. Так как найти подобные публикации – не сложно. Нам не понятно, почему они не пойдут по пути ВКонтакте и не заблокируют поиск по суицидальным хэштегам, — негодует Зыков.

На днях разразился скандал в Великобиртании. Министр здравоохранения Мэтт Хэнкок в эфире телеканала BBC заявил, что они готовы принимать меры против соцсетей вплоть до их блокировки, если те не усилят борьбу с вредным контентом, который может подтолкнуть подростков к самоубийству и нанесению себе увечий.

Это заявление министра было сделано после того, как 27 января газета The Sunday Times опубликовала интервью с Иэном Расселом. Его 14-летняя дочь Молли Рассел покончила с собой в 2017 году. По мнению Рассела, к такому шагу ее подтолкнули соцсети. Он анализировал в Instagram и Pinterest страницы, которая посещала его дочь и нашел много постов и изображений, посвященных нанесению себе увечий и самоубийствам

Как написал Коммерсант, в Instagram сообщили, что уже начали пересматривать свою политику в отношении контента, связанного с нанесением себе увечий, суицидами и т. д.

В АППСИМ с сожалением констатируют, что не заметили каких-либо положительный изменений в вопросах борьбы с опасным контентом.

https://www.instagram.com/p/Bs7-ts4gr8T/

https://www.instagram.com/p/BsysuR3FRGh/

https://www.instagram.com/p/BsyXsRtFap8/

https://www.instagram.com/p/BsyWs6bl_PS/

https://www.instagram.com/p/Bsv8v0IhkDi/

https://www.instagram.com/p/Bsvo_E6j-XB/

https://www.instagram.com/p/BskdmtdgvqW/

https://www.instagram.com/p/BsihieHgzU2/

https://www.instagram.com/p/Bsc3e2OACtS/

https://www.instagram.com/p/Bsaq2dEgDw4/

https://www.instagram.com/p/Bs_JOjBAjlF/

— Проблема с распространением суицидального контента актуальна не только в России, но и у других странах мира. Очень плохо, что международные компании так плохо себя показывают в вопросах борьбы с опасными публикациями. В АППСИМ призывают Марка Цукерберга обратить внимание на сложившуюся ситуацию, — резюмировал Зыков.