LLM, известные своей способностью обрабатывать и генерировать человекоподобный текст, обучаются на огромном наборе данных контента. В данном случае еще и на контенте, отмеченного модераторами Reddit и внутренними правоприменительными органами за нарушение условий использования платформы. Такое обучение помогает ИИ выявлять закономерности и нюансы языка, часто ассоциирующиеся с так называемым харассментом.
Reddit подтвердил это событие, обновив свою страницу поддержки, чтобы признать роль LLM в фильтре домогательств. На странице уточняется, что «действия модераторов и контент, удаленный внутренними инструментами Reddit», составляют основу обучающих данных ИИ.
Хотя эффективность этого нового инструмента еще предстоит оценить, он предоставляет модераторам дополнительный уровень защиты от домогательств в Интернете. Тем не менее, остаются некоторые вопросы. Сможет ли ИИ эффективно отличить настоящую травлю от страстных дискуссий?
Только время покажет, насколько хорошо эта модель ИИ ориентируется в сложностях человеческого взаимодействия в сети.
