한줄 요약: 

reddit 데이터에 나타난 사용자 행동과 언어 패턴을 통해 음모론과 관련된 참여 경로 및 급진화 단계를 분석하고, 이를 통해 유저의 행동 변화와 가능성을 이해하려고 함   



짧은 요약(Abstract) :    




이 연구는 온라인 음모 이론(CT) 논의에서 사용자가 어떻게 급진화되는지 이해하기 위해 Reddit 데이터를 기반으로 CT 참여 경로와 급진화 단계를 분석한 결과를 제시합니다. 연구진은 36,000명 이상의 Reddit 사용자와 1억 6천 9백만 개의 댓글을 분석하여 CT 참여 경로를 **‘지속적으로 높은 참여’, ‘점진적 증가’, ‘점진적 감소’, ‘지속적으로 낮은 참여’**의 네 가지 유형으로 분류했습니다. 이 과정에서 급진화는 **Reflection(반영), Exploration(탐구), Connection(연결)**의 세 단계를 거친다고 이론화하고, 이를 언어, 상호작용, 활동 패턴으로 모델링했습니다. 특히, 높은 참여 또는 증가하는 경로의 사용자는 급진화의 여러 단계를 차례로 진행하며, 반대로 감소 경로의 사용자는 특정 주제에 제한된 참여를 보이며 급진화 가능성이 낮았습니다. 이 연구는 온라인 CT 참여로부터의 회복 과정에 대한 통찰도 제공합니다.

---



This study investigates the evolution of conspiracy radicalization among participants in online conspiracy theory (CT) discussions by analyzing pathways and phases of engagement using Reddit data. The authors analyzed data from over 36,000 Reddit users and 169 million comments, identifying four types of CT engagement pathways: **steady high**, **increasing**, **decreasing**, and **steady low**. Radicalization was theorized to progress through three phases: **Reflection**, **Exploration**, and **Connection**, modeled via linguistic, interaction, and activity patterns. Users on steady high or increasing pathways exhibited progressive radicalization, while those on decreasing pathways displayed limited, specialized participation with lower radicalization potential. The study also offers insights into the recovery process from online CT engagement.



* Useful sentences :


Paper link
Lecture link


단어정리


Methodology

이 연구에서는 RECRO 모델(Reflection, Exploration, Connection, Resolution, Operation)을 활용하여 온라인 음모 이론(CT) 참여와 급진화 과정을 단계적으로 분석했습니다. 기존의 급진화 모델은 주로 심리적 요인이나 오프라인 요인에 초점을 맞추었으나, 이 연구는 인터넷 중심의 급진화 과정을 체계적으로 설명하고자 했습니다. 특히, CT 참여 경로를 4가지로 분류(지속적으로 높은 참여, 점진적 증가, 점진적 감소, 지속적으로 낮은 참여)하고 각 경로에서 급진화의 초기 세 단계를 분석했습니다.

기존 모델과의 차이점

  1. 인터넷 중심 접근: 기존 모델은 오프라인 급진화 요인에 초점을 맞췄으나, 이 연구는 인터넷 데이터(36,000명 사용자, 1억 6천 9백만 개 댓글)를 활용하여 온라인 급진화 과정을 분석.
  2. 장기적인 디지털 흔적 분석: 단기간 데이터 분석에 그쳤던 기존 연구와 달리, Reddit 사용자의 장기간 활동 데이터를 10단계로 나누어 세부적으로 조사.
  3. 경로 기반 분석: 단순히 급진화 여부를 판단하는 데 그치지 않고, 사용자 참여 경로를 기반으로 급진화 과정을 이해.

주요 특장점

  1. 경로별 분석: 사용자의 CT 참여 유형을 구분하여 각 경로에 따라 급진화가 어떻게 진행되는지 세밀하게 파악.
  2. 언어적 특징 및 활동 패턴: 감정 언어, 내적 집단 언어(인사이더 언어), 그룹 연결성 등 다양한 언어적·행동적 요인을 사용해 급진화 단계를 설명.
  3. 회복 가능성 제시: 감소 경로의 사용자가 특정 주제에 국한된 참여를 보이며 급진화 위험이 낮다는 점을 밝혀, CT로부터의 회복 가능성에 대한 통찰 제공.

This study utilizes the RECRO model (Reflection, Exploration, Connection, Resolution, Operation) to systematically analyze the process of conspiracy theory (CT) engagement and radicalization in online environments. While previous models primarily focused on psychological or offline factors, this research emphasizes an internet-mediated radicalization process. It categorizes CT engagement into four pathways (steady high, increasing, decreasing, steady low) and examines the first three phases of radicalization in detail.

Differences from Existing Models

  1. Internet-Centric Approach: Unlike prior models focusing on offline radicalization factors, this study leverages internet data (36,000 users, 169 million comments) to analyze online radicalization.
  2. Longitudinal Digital Trace Analysis: Unlike short-term studies, this research tracks user activity over time by dividing it into 10 equal deciles for detailed analysis.
  3. Pathway-Based Analysis: Moves beyond simply determining radicalization presence to understanding the progression of radicalization based on engagement pathways.

Key Strengths

  1. Pathway-Specific Insights: Differentiates user CT engagement types and details how radicalization progresses for each pathway.
  2. Linguistic and Behavioral Patterns: Explains radicalization phases using linguistic (emotive language, insider language) and interactional (group connections) features.
  3. Recovery Possibility: Highlights how users on decreasing pathways exhibit reduced radicalization potential, offering valuable insights into recovery from CT engagement.


Results

이 연구는 Reddit 데이터를 활용하여 음모 이론(CT) 참여와 급진화 과정을 분석했으며, 다음과 같은 주요 결과를 제시합니다.

주요 결과

  1. 참여 경로별 급진화 패턴:
    • 지속적으로 높은 참여(steady high) 및 점진적 증가(increasing) 경로의 사용자는 급진화의 초기 3단계(Reflection, Exploration, Connection)를 순차적으로 진행했습니다.
    • 점진적 감소(decreasing) 경로의 사용자는 특정 주제에 국한된 참여를 보이며, CT 커뮤니티와의 언어적 및 사회적 동질성을 개발하지 않아 급진화 가능성이 낮았습니다.
  2. 급진화 단계별 언어 및 행동 변화:
    • 지속적으로 높은 참여와 점진적 증가 경로의 사용자는 내부 집단 언어(인사이더 언어) 사용과 같은 언어적 동질성을 보였으며, 소규모 그룹에서 반복적으로 참여.
    • 반면 감소 경로 사용자는 다양한 그룹과 상호작용하며 더 폭넓은 관점을 유지.
  3. 회복 가능성:
    • 감소 경로의 사용자는 CT 참여를 점차 줄이고, 음모 세계관을 채택하지 않는 경향을 보여, CT로부터의 회복 가능성을 시사.

경쟁 모델 대비 성능

이 연구는 기존 모델과의 직접적인 성능 비교보다는 방법론적 차이를 강조했지만, 데이터 처리 및 분석 측면에서 다음과 같은 개선을 제시했습니다:

  • 데이터셋: 36,000명의 사용자와 1억 6천 9백만 개의 댓글이라는 대규모 데이터를 활용하여, 기존 연구에서 다룰 수 없었던 다양한 사용자 참여 경로를 분석.
  • 메트릭: 사용자의 CT 참여 경로와 급진화 단계의 상관관계를 정량적으로 평가하기 위해 언어 동질성, 그룹 연결성, 일반성 점수(Generality Score) 등의 지표를 도입.
  • 새로운 발견: 기존 연구에서는 다루지 않았던 감소 경로 사용자의 행동 변화를 분석하여, 음모 이론으로부터의 회복 가능성을 처음으로 제시.

This study analyzed conspiracy theory (CT) engagement and radicalization processes using Reddit data, producing the following key findings:

Key Results

  1. Radicalization Patterns by Engagement Pathway:
    • Users on steady high and increasing pathways sequentially progressed through the first three radicalization phases (Reflection, Exploration, Connection).
    • Users on decreasing pathways showed limited, topic-specific participation and did not develop linguistic or social conformity with CT communities, exhibiting lower radicalization potential.
  2. Linguistic and Behavioral Changes by Phase:
    • Users on steady high and increasing pathways demonstrated linguistic conformity (e.g., insider language) and repeatedly engaged in small, closed-group discussions.
    • Conversely, decreasing pathway users interacted with diverse groups and maintained broader perspectives.
  3. Recovery Potential:
    • Users on decreasing pathways gradually reduced their CT participation and avoided adopting a conspiracy worldview, offering insights into the potential for recovery from CT engagement.

Performance Compared to Competing Models

Although the study focused more on methodological distinctions than direct performance comparisons, several improvements were highlighted:

  • Dataset: Leveraged a large-scale dataset of 36,000 users and 169 million comments, enabling detailed analysis of various user engagement pathways beyond the scope of prior studies.
  • Metrics: Introduced innovative metrics such as linguistic conformity, group connectivity, and generality scores to quantitatively evaluate correlations between CT engagement and radicalization stages.
  • New Insights: For the first time, analyzed behavioral changes in decreasing pathway users, presenting a unique perspective on recovery from CT engagement, which previous models did not address.


예제

이 연구는 Reddit 데이터를 활용하여 CT 참여와 급진화를 분석했습니다. 연구는 36,000명 사용자의 169백만 개 댓글로 구성된 데이터셋을 기반으로 했으며, 각 사용자의 활동을 CT 참여 경로에 따라 분류하고 급진화 단계를 예측하거나 특징을 분석했습니다.

데이터 예시

  • 사용자 활동:
    • r/conspiracy에서 첫 댓글을 단 이후의 활동을 추적.
    • 10개의 기여 구간(Deciles)으로 나누어 CT 참여 변화 패턴 분석.
  • 분석된 서브레딧:
    • CT 관련 서브레딧(r/conspiracy, r/moonhoax 등)과 과학 기반 서브레딧(r/science) 비교.
    • 각 서브레딧의 음모 유사성 점수와 일반성 점수를 계산.

모델 성능 예시

  • CT 참여 경로 분류:
    • 사용자 활동 데이터를 기반으로 4가지 경로(지속적으로 높은 참여, 점진적 증가, 점진적 감소, 지속적으로 낮은 참여)로 분류.
    • 예측 정확도: 약 84% (평가자 간 완벽 일치 비율: 96%).
  • 급진화 단계 예측:
    • Reflection 단계에서 감정 언어(예: 분노, 불안) 사용이 높았고, 점차 Exploration 단계에서 일반적 CT 참여 증가 확인.
    • Linguistic Conformity (언어 동질성): Steady High 경로에서 지속적으로 상승 (β=0.004, p<0.05).

This study utilized Reddit data to analyze CT engagement and radicalization processes. The dataset consisted of 169 million comments from 36,000 users, categorizing their activities by CT engagement pathways and predicting radicalization stages or analyzing key characteristics.

Dataset Example

  • User Activities:
    • Tracked user activities after their first comment in r/conspiracy.
    • Divided into 10 contribution deciles to analyze patterns of CT engagement.
  • Subreddits Analyzed:
    • Compared CT-related subreddits (e.g., r/conspiracy, r/moonhoax) with science-based subreddits (e.g., r/science).
    • Computed conspiracy similarity scores and generality scores for each subreddit.

Model Performance Example

  • CT Engagement Pathway Classification:
    • Classified users into 4 pathways (steady high, increasing, decreasing, steady low) based on activity data.
    • Prediction Accuracy: Approximately 84% (Perfect inter-annotator agreement: 96%).
  • Radicalization Phase Prediction:
    • Identified increased use of emotional language (e.g., anger, anxiety) during the Reflection phase, with a shift toward generalized CT engagement in the Exploration phase.
    • Linguistic Conformity: Steady High pathway users showed continuous growth (β=0.004, p<0.05).


요약

이 연구는 Reddit 데이터를 기반으로 음모론 참여 경로(지속적으로 높은, 증가, 감소, 낮은 참여)와 급진화 단계를 분석하여, 사용자가 어떻게 음모론적 세계관을 형성하거나 벗어나는지를 탐구했습니다. Reflection, Exploration, Connection 단계에서 언어적, 행동적 패턴을 측정하여 특정 경로에서의 급진화 진행 여부를 파악했습니다. 특히, 지속적 참여나 증가 경로는 급진화 단계로 이어졌지만, 감소 경로는 특정 주제로 제한된 참여를 통해 회복 가능성을 보여주었습니다.

This study analyzed conspiracy engagement pathways (steady high, increasing, decreasing, steady low) and radicalization phases using Reddit data to explore how users adopt or disengage from conspiracy worldviews. By measuring linguistic and behavioral patterns in the Reflection, Exploration, and Connection phases, it identified radicalization progression in certain pathways. Notably, steady or increasing engagement led to deeper radicalization, whereas decreasing engagement indicated recovery potential through topic-specific participation.


기타


refer format:

@inproceedings{Phadke2022, author = {Shruti Phadke and Mattia Samory and Tanushree Mitra}, title = {Pathways through Conspiracy: The Evolution of Conspiracy Radicalization through Engagement in Online Conspiracy Discussions}, booktitle = {Proceedings of the Sixteenth International AAAI Conference on Web and Social Media (ICWSM 2022)}, year = {2022}, pages = {770–781}, publisher = {Association for the Advancement of Artificial Intelligence}, address = {Washington, DC, USA} }

Phadke, Shruti, Mattia Samory, and Tanushree Mitra. “Pathways through Conspiracy: The Evolution of Conspiracy Radicalization through Engagement in Online Conspiracy Discussions.” Proceedings of the Sixteenth International AAAI Conference on Web and Social Media (ICWSM 2022), 770–781. Washington, DC, USA: Association for the Advancement of Artificial Intelligence, 2022.