В свете запрета Трампа, крайне правых разжигающих ненависть высказываний и явно странных теорий заговора QAnon, внимание всего мира все больше приковано к модерации и со стороны социальных сетей.
Наша работа в AKASHA основана на вере в то, что люди — это не проблемы, ожидающие решения, а потенциал, ожидающий раскрытия. Мы нацелены на это раскрытие, а затем на создание возможностей, взращивание, исследование, обучение, обсуждение, самоорганизацию, создание и возрождение. В этом посте рассказывается о том, что мы думаем и делаем, когда дело доходит до модерации.
Процессы модерации увлекательны и необходимы. Они должны поощрять и учитывать сложность сообщества, а их дизайн может способствовать как феноменальному успеху, так и печальному провалу. И, несмотря ни на что, мы никогда не собираемся переходить от нуля к герою. Нам нужно поработать над этим вместе.
Мы собираемся начать с определения некоторых общих терминов и развеять некоторые распространенные мифы. Затем мы рассмотрим некоторые ключевые аспекты дизайна и наметим задействованные механизмы обратной связи, прежде чем представить цели модерации, как мы их видим прямо сейчас. Приветствуются любые комментарии и отзывы.
Мы подчеркнем одну вещь в нашем путешествии по миру Ethereum — для команды AKASHA нет никакого смысла диктовать правила дорожного движения, и мы надеемся, что это станет все более очевидным в ближайшие недели и месяцы.
Давайте сделаем это.
«Начало мудрости — определение терминов». Уместный трюизм, приписываемый Сократу.
Управление — определение полномочий, принятия решений и подотчетности в процессе организации [ref].
Модерация — подмножество управления, которое структурирует участие в сообществе для облегчения сотрудничества и предотвращения злоупотреблений [ссылка].
Цензура — запрет или сокрытие информации, которая считается политически неприемлемой, непристойной или представляющей угрозу безопасности [Оксфордский словарь английского языка].
Модерация одного человека — это цензура другого, о чем свидетельствует эта дискуссия среди редакторов Reddit. И хотя было обнаружено, что централизованное модерирование, осуществляемое Facebook, Twitter и YouTube, представляет собой «детализированную систему, основанную на американской правовой системе, с регулярно обновляемыми правилами, квалифицированным персоналом для принятия решений и опорой на систему внешнего влияния». ", ясно, что "они не несут прямой ответственности перед своими пользователями" [ссылка].
Этот последний момент нас не устраивает, и если вы читаете это, то, скорее всего, он тоже вас не устраивает. На протяжении всей истории нам не приходилось полагаться на эту роль частных корпораций, и мы не собираемся полагаться на них в будущем.
Субъективно модерация может чувствовать как цензура. Это может быть, когда модератор действительно зашел «слишком далеко», или когда субъект не чувствует себя достаточно сильным, чтобы защитить себя, но также и когда субъект действительно просто мудак.
Как вы понимаете, AKASHA не поддерживает цензуру. Скорее, мы признаем, что следствием свободы слова является свобода внимания. Если я что-то пишу, это не значит, что вы должны это читать. То, что я продолжаю что-то писать, не означает, что вы должны продолжать видеть, что я продолжаю что-то писать. Это действительно важное наблюдение.
АКАША стремится помочь создать условия для возникновения коллективного разума, т. е. разума, большего, чем сумма их частей. Любой, кто обращается к AKASHA и даже к Ethereum, заинтересован в том, чтобы помочь достичь чего-то большего, чем они сами, и мы не нашли онлайн «все для всех», который привел бы к такому результату.
Крупномасштабные социальные сети без соответствующих модерирующих действий предназначены для размещения экстремистов или привлечения экстремистов, потому что хост отказался от попыток модерировать. В сообществе без модерации процессов отсутствует необходимая структура, что оставляет его не более чем дегенеративный беспорядок, которого многие избегали бы.
Во многих социальных сетях и дискуссионных форумах есть роль, которую часто называют модератором. , но у каждого члена каждого сообщества есть некоторые возможности модерирования. Это может быть явным — например. пометка контента для просмотра модератором — или неявная — например. останавливая пламенную войну успокаивающими словами.
Если участник сообщества активен, он модерирует. Другими словами, она помогает поддерживать и развивать социальные нормы, регулирующие участие. Как правило, чем больше мы можем дать участникам возможность предлагать соответствующие положительные и отрицательные отзывы, тем точнее мы можем предсказать совокупные последствия, тем больше плеч берет на себя необходимые усилия по модерированию. Мы узнаем, когда доберемся до роли, которую мы назовем модератор. кажется неуместным.
Действия по модерации могут быть достаточно простыми, но общий дизайн модерации — это не только наука, но и искусство. Сверху вниз, снизу вверх, из стороны в сторону и сложно…
Сложность относится к явлениям, при которых система может проявлять характеристики, которые нельзя отнести к одному или двум отдельным участникам. Сложные системы содержат набор множества взаимодействующих объектов. Они включают в себя влияние обратной связи на поведение, открытость системы и сложное смешение порядка и хаоса [ссылка]. Множество взаимодействующих людей составляют сложную систему, поэтому в контексте Ethereum World это невозможно обойти.
Закон необходимого разнообразия утверждает, что механизм управления системой (т. е. управление, в частности, сдерживание в данном контексте) должен быть способен демонстрировать больше состояний, чем сама система [ссылка]. Неспособность разработать это приводит к отказу системы. Вот несколько примеров режимов отказа в этом отношении:
Давайте взглянем на некоторые вещи, которые нам необходимо принять во внимание, различные циклы обратной связи и наши цели модерирования.
Существует ряд соображений по проектированию верхнего уровня [ссылка]. К ним относятся:
Человеческие взаимодействия включают тонкость, контекст, иронию, сарказм и мультимедиа; на самом деле многие качества и форматы не поддаются алгоритмической интерпретации. Полностью автоматическая модерация сегодня невозможна (и, возможно, мы надеемся, что так будет и дальше), так что нам остается только ручное модерирование и компьютерное модерирование.
«Ваша учетная запись отключена».
Это все, что вы получаете, когда срабатывает автоматическая модерация Facebook. Никаких объяснений. Нет прозрачности. В AKASHA мы по умолчанию используем прозрачность, очевидно.
Только когда люди знают о законе, он может быть эффективным. Только когда люди узнают о социальной норме, она может существовать. И закон, и социальные нормы сдерживают, но не предотвращают подрывную деятельность. Наказание возможно, когда средства устрашения недостаточны — фактически оно подтверждает действие средства устрашения — и оба необходимы в процессах сдерживания.
Децентрализация — это средство, а не самоцель [ссылка]. В этом случае децентрализованные процессы модерации способствуют ощущению «собственности» сообщества, личного участия и, в идеале, более органичного масштабирования.
Некоторые процессы модерации разыгрываются в повседневных взаимодействиях, в то время как другие требуют посвящения времени задаче. Это распределение времени мотивировано либо внешними мотивами (например, для оплаты, по мнению модераторов Facebook), либо внутренними мотивами (например, по причине, согласно сообществу Википедии). Часто говорят, что из этих двоих некомфортно спать в постели, но в то же время есть много людей, которых тянет работать на «благое дело» и зарабатывать этим на жизнь.
Мы стремимся поддерживать и усиливать внутреннюю мотивацию, не предъявляя обременительных требований к времени горстки членов сообщества. Процесс модерации должен казаться таким же нормальным, как не бросать мусор и время от времени собирать чужую выброшенную банку из-под кока-колы. Когда они начинают больше ощущаться как волонтеры, собирающие мусор, тогда возникают вопросы о том, как «справиться со своей долей» в контексте потенциальной трагедии общего пользования.
В модерировании нет ничего статичного. Мы можем рассмотреть пять уровней обратной связи:
Демонстрация и наблюдение за поведением на ежедневной основе является основным источником и источником поддержки культуры сообщества — того, как мы делаем и не делаем что-то здесь. Мы могли бы назвать это модерированием на примере.
Это более явное влияние на распространение контента и форму, о которой думает большинство людей, когда думает о модерации. Примером типичной формы обратной связи второго цикла является контент, получивший достаточное количество пометок, чтобы привлечь внимание модератора — человека, обладающего полномочиями на осуществление более широкого спектра процессов модерирования и/или более широкими полномочиями в их использовании. Хотя иногда кажется, что он играет вторую скрипку после корректирующих отзывов, второй цикл также включает в себя положительные отзывы, отмечающие вклад и действия, которые сообщество хотело бы видеть больше.
Участие сообщества структурировано процессами модерации. Затем может использоваться обратная связь третьего контура для проверки и урезания, адаптации или расширения этих структур, проверки деятельности участников по регулярному назначению или в порядке исключения.
Модерация — это форма управления — процессы определения полномочий, принятия решений и подотчетности. Затем обратная связь четвертого цикла может работать таким образом, что результаты обратной связи 1-го, 2-го и 3-го циклов побуждают к пересмотру управления сообществом или способствуют периодическим проверкам.
Когда инфраструктура принадлежит и/или управляется юридическим лицом, это лицо несет юридическую ответственность в соответствии с соответствующими юрисдикциями, которые могут потребовать удаления определенного контента. Когда используется хранилище с адресацией по содержимому (например, IPFS, Swarm), удаление сложно, но удаление из списка остается вполне возможным, когда обнаружение влечет за собой ведение поискового индекса.
Мы определили восемь целей модерирования дизайна. В наших будущих совместных обсуждениях всегда будет полезно определить, связаны ли какие-либо расхождения во мнениях с обоснованностью цели или со способом ее достижения.
Мы празднуем свободу слова и свобода внимания, в равной степени.
Модерация должна быть доступна всем. Период.
Модерирующие действия разных участников могут иметь разный вес в разных контекстах исключительно для предотвращения манипуляций/игр и поддержания работоспособности сети. Проще говоря, «старые руки» могут лучше справляться с действиями модераторов, чем новички, и мы также хотим усилить влияние людей и уменьшить количество гнусных ботов в этом отношении.
Процессы модерации должны быть простыми, неуниверсальными (за исключением действий, необходимых для соблюдения законодательства) и распределенными.
Участники и процессы модерирования должны обеспечивать необходимую сложность.
Мы хотим поощрять продуктивное повышение уровня и работать против токсичного понижения уровня, для здоровья сети в стремлении к коллективному разуму.
Процессы модерации должны помочь показать, что с правами (например, свобода от детских яслей централизованных социальных сетей) приходят и обязанности.
Процессы модерации должны быть простыми для архитектуры в Web 2 на начальном этапе, и в долгосрочной перспективе они не должны быть явно невозможными в стеке Web 3. Если мы все сделаем правильно, визуализация соответствующего сетевого анализа должна дать что-то вроде изображения в центре здесь:
Этот список ни в коем случае не является исчерпывающим или окончательным. Разговор о модерации продолжается, но он нужен вам! Если вы думаете, что хотели бы принять более активное участие в этом на ранних этапах, свяжитесь с нами. Если вы чувствуете, что чего-то не хватает, мы также рекомендуем вам присоединиться к обсуждению здесь и здесь.
Избранные фото:Кортни Уильямс на Unsplash