Интернет – это мощный инструмент, способный как вдохновлять, так и разрушать. В стремлении защитить пользователей от темных сторон виртуального пространства некоммерческая коалиция по охране психического здоровья (MHC) запустила амбициозную программу под названием Thrive. Это своеобразная «биржа сигналов», где гиганты социальных сетей – Meta, Snap и TikTok – объединяются в борьбе с распространением контента, пропагандирующего самоубийство и членовредительство.
Хэши как цифровые отпечатки опасности
Thrive представляет собой инновационный механизм обмена информацией о потенциально опасном контенте. В его основе лежат уникальные хэши – цифровые «отпечатки пальцев» графических изображений, связанных с самоубийством, членовредительством или пропагандой подобных проблем. Эти хэши не содержат никакой личной информации о пользователях и аккаунтах, обеспечивая анонимность при одновременном эффективном отслеживании.
Meta предоставила техническую инфраструктуру для Thrive, ту же самую, что использовалась в программе Lantern child safety от Tech Coalition. Теперь платформы-участницы смогут собирать данные о контенте, способствующем нанесению вреда себе и другим, получать оповещения о тревожных находках и нарушающих их собственные правила материалах.
Ответственность и прозрачность
Руководит операционными аспектами Thrive Дэн Рейденберг, глава Национального совета по предотвращению самоубийств. Компании-участницы несут полную ответственность за загрузку, проверку и принятие мер в отношении контента, поступающего через Thrive. Ежегодный отчет, подготовленный совместно, продемонстрирует эффективность программы и ее вклад в спасение жизней.
«MHC рада сотрудничеству с Thrive – уникальной платформой, объединяющей ведущие социальные сети в борьбе с суицидом и членовредительством. Meta, Snap и TikTok стали первыми партнерами, взявшими на себя обязательство усилить свои усилия и реально помогать людям», – подчеркнул Кеннет Коул, основатель MHC.
Отсутствие X и YouTube: сломанные звенья в цепи безопасности?
В Thrive отсутствует X (ранее Twitter), чья репутация в области модерации вызывает вопросы. После сокращения значительной части инженеров, занимающихся безопасностью, платформа столкнулась с проблемами в борьбе с нежелательным контентом. Google, владелец YouTube, также не участвует в программе. Исследование Института стратегического диалога показало, что YouTube демонстрирует тенденцию рекомендовать подросткам видео, пропагандирующие самоубийство или оправдывающие его.
Важно отметить, что отсутствие X и YouTube не означает безнаказанность для Meta, Snap и TikTok. Они также сталкиваются с судебными исками, обвиняющими их в содействии кризису психического здоровья пользователей. Решение британских властей, признавшее Instagram (Meta) виновным в самоубийстве 14-летней девочки после ее контакта с опасным контентом на платформе, служит тревожным примером.
Thrive – это важный шаг к созданию более безопасного и ответственного цифрового пространства. Однако путь к полной защите пользователей от онлайн-опасности еще долгий, требующий постоянной работы, совершенствования технологий и усиления ответственности всех участников интернет-экосистемы.
