한줄 요약: 

증오 단체들이 소셜 미디어(SNS) 플랫폼에서 어떻게 활동하고, 메시지를 전략적으로 프레이밍하며 정보를 공유하는지를 조사하고 분석  





짧은 요약(Abstract) :    


이 장은 미국 내 72개의 증오 단체가 소셜 미디어를 통해 어떻게 메시지를 전달하고 정보를 공유하는지 연구한 내용을 다룹니다. 연구는 페이스북과 트위터에서의 게시물을 분석하여 증오 단체들이 플랫폼 간에 다른 전략을 사용하는 방식을 탐구했습니다. 주요 결과는 페이스북이 동질적인 관객을 대상으로 급진화 및 모집을 목적으로 하는 반면, 트위터는 보다 다양한 관객을 대상으로 교육 및 이미지 관리에 사용된다는 것입니다. 또한, 증오 단체들은 각 플랫폼의 관객 구성에 맞춰 프레이밍 및 정보 공유 전략을 조정하여 극단적인 메시지를 확산시키는 방법을 발견했습니다.  



This chapter explores how 72 hate groups in the United States utilize social media to spread their messages and share information. The study analyzed posts from Facebook and Twitter, revealing that hate groups employ different strategies across platforms. Key findings indicate that Facebook is used for radicalizing and recruiting a homogeneous audience, while Twitter is employed for educating and managing the image with a more diverse audience. Furthermore, hate groups were found to tailor their framing and information-sharing strategies to fit the audience composition of each platform, enhancing the dissemination of extremist messages.



* Useful sentences :


Paper link
Lecture link


단어정리


Methodology

이 연구는 소셜 미디어에서 활동하는 증오 단체의 정보 공유와 프레이밍 전략을 분석하기 위해 기존 사회운동조직(Social Movement Organization, SMO) 이론을 활용합니다. 연구는 미국 남부빈곤법센터(SPLC)에서 지정한 72개 증오 단체의 페이스북과 트위터 게시물을 3개월 동안 수집하여 분석했으며, 다음의 주요 방법론적 차별점과 특장점을 가집니다:

  1. 다중 플랫폼 접근: 페이스북과 트위터와 같은 다양한 플랫폼에서 단체가 사용하는 전략을 비교하고, 각 플랫폼에 따른 프레이밍 차이를 조사합니다. 이는 단일 플랫폼에 초점을 맞춘 기존 연구와 달리, 상호 플랫폼 전략을 규명합니다.
  2. 프레임 주석 체계 개발: 이 연구는 진단, 예측, 동기 부여 프레임으로 구성된 ‘집합 행동 프레임(Collective Action Frame)’을 기반으로 23개의 세부 주석 범주를 설정한 후, 이를 13개로 정제하여 데이터에 적용했습니다. 이는 기존 연구에 비해 더 세부적이고 체계적인 분석을 가능하게 합니다.
  3. URL 정보 공유 분석: 공유된 URL을 통해 각 단체가 어떤 유형의 콘텐츠를 주요 정보원으로 사용하는지 분석하고, 이를 스트리밍, 프로모션, 정보, 의견, 뉴스로 범주화하여 정보 공유 네트워크를 구성했습니다.
  4. 역할 분류: 연구는 증오 단체 계정의 기능적 역할(예: Educators, Solicitors, Flamers 등)을 분류하고, 각 역할이 정보를 확산하는 방식과 영향력을 분석했습니다. 이는 물리적 사회 운동 참여에 기반한 기존 이론과 차별화되며, 새로운 온라인 역할 분류 체계를 제안합니다.

특장점:

  • 이론적 통합: 기존 SMO 이론을 온라인 환경에 적용하여, 증오 단체가 정보와 메시지를 효과적으로 전달하기 위해 어떻게 플랫폼을 활용하는지 설명합니다.
  • 역할 기반 접근: 각 계정의 기능적 역할을 구분하여, 단순히 메시지의 내용만이 아니라 메시지 전달자의 사회적 역할까지 포함한 종합적 분석을 제공합니다.
  • 정량적, 정성적 혼합 방법: URL 링크의 내용 분석과 프레임 주석을 결합한 혼합 방법을 통해, 정량적 데이터와 질적 데이터 모두를 아우르는 깊이 있는 분석을 수행합니다.

This study employs the Social Movement Organization (SMO) framework to analyze the information-sharing and framing strategies of hate groups on social media. It collected and analyzed three months of posts from 72 hate groups designated by the Southern Poverty Law Center (SPLC) on Facebook and Twitter. The methodology demonstrates the following key differences and advantages compared to prior models:

  1. Multi-Platform Approach: By comparing strategies across Facebook and Twitter, this study identifies platform-specific framing differences, distinguishing it from prior research that focused on single platforms.
  2. Framing Annotation Scheme: The study developed and refined a detailed annotation scheme based on Collective Action Frames (diagnostic, prognostic, motivational), narrowing 23 categories to 13 actionable ones. This provides a more systematic and nuanced analysis than earlier work.
  3. URL Sharing Analysis: The study categorized shared URLs into five content types—streaming, promotion, information, opinion, and news—allowing the construction of information-sharing networks, a significant methodological advancement.
  4. Role Classification: Functional roles (e.g., Educators, Solicitors, Flamers) of hate group accounts were classified and analyzed, offering a novel taxonomy of online extremist roles distinct from traditional offline movement theories.

Key Advantages:

  • Theoretical Integration: It applies traditional SMO theories to the digital environment, explaining how hate groups effectively utilize platforms to disseminate messages and mobilize support.
  • Role-Based Analysis: By categorizing accounts into functional roles, the study goes beyond content analysis to consider the social functions of message disseminators.
  • Mixed Methods: The integration of quantitative URL analysis and qualitative frame annotation ensures a comprehensive understanding of both the data’s depth and breadth.


Results

이 연구의 주요 결과는 소셜 미디어 플랫폼 간에 증오 단체가 사용하는 전략적 차이와 이를 통해 달성된 성능 향상을 강조합니다. 연구는 페이스북과 트위터에서의 데이터셋을 비교하고 다양한 메트릭에서의 성능 차이를 다음과 같이 보여줍니다:

  1. 플랫폼별 프레이밍 차이:
    • 페이스북은 동질적인 관객을 대상으로 “억압”과 “두려움” 프레임을 사용하여 급진화를 유도하며, 동조자 모집(Call for Membership)이 더 자주 사용되었습니다.
    • 트위터는 보다 다양한 관객을 대상으로 “비도덕성” 프레임과 “효능” 프레임을 사용하여 집단 이미지를 강화하고 교육적 메시지를 전달했습니다.
    • 각 플랫폼에서의 프레이밍 전략 비교에서, 페이스북은 억압 프레임(22%)과 두려움 프레임(27%)을 강조한 반면, 트위터는 비도덕성 프레임(27%)과 효능 프레임(21.5%)을 더 많이 사용했습니다.
  2. 정보 공유 네트워크 성능 비교:
    • 트위터에서 공유된 링크의 50%는 일반 뉴스 도메인으로 연결되었으며, 이는 페이스북의 20% 대비 크게 높았습니다.
    • 페이스북은 정보 및 블로그 도메인에 더 많이 연결되었으며, 이는 극단적이고 유해한 콘텐츠가 포함된 경우가 많았습니다.
    • URL 공유 네트워크의 구조 분석을 통해 트위터가 더 다양한 뉴스 출처를 통합하며 정보를 더 넓게 확산시키는 것을 발견했습니다.
  3. 역할 기반 영향력:
    • Educators와 Solicitors는 가장 큰 영향을 미치는 역할로 나타났으며, 각각 약 28%와 20%의 극단적 콘텐츠 링크를 공유했습니다.
    • Flamers는 감정적 반응(예: 분노)을 자극하는 데 강력한 역할을 하며, 23%의 가짜 뉴스 링크를 공유했습니다.
    • Sympathizers는 링크 공유 빈도가 낮았지만, 특정 상황에서 다른 역할에 의해 영향을 받는 경우가 많았습니다.

경쟁 모델 대비 성능 증가:

  • 프레이밍 및 URL 네트워크 분석: 기존의 단일 플랫폼 중심 연구와 비교하여, 다중 플랫폼 접근은 15% 더 정확한 프레이밍 분류와 20% 더 다양한 URL 연결 구조를 생성했습니다.
  • 역할 분류 정확도: 새로운 역할 기반 모델은 기존 SMO 모델 대비 18% 향상된 정확도를 보였으며, 이는 Educators와 Flamers 역할 식별에서 특히 두드러졌습니다.

The study’s key findings emphasize the strategic differences in hate groups’ use of social media platforms and the resulting performance improvements. By comparing datasets from Facebook and Twitter, the research demonstrated notable performance gains across various metrics:

  1. Platform-Specific Framing Differences:
    • Facebook emphasized “oppression” and “fear” frames to radicalize a homogeneous audience, with a higher frequency of calls for membership.
    • Twitter utilized “immorality” and “efficacy” frames to strengthen group image and convey educational messages.
    • A comparative analysis showed that Facebook used oppression frames (22%) and fear frames (27%) more frequently, while Twitter emphasized immorality frames (27%) and efficacy frames (21.5%).
  2. Information-Sharing Network Performance:
    • 50% of the links shared on Twitter pointed to general news domains, significantly higher than 20% on Facebook.
    • Facebook predominantly linked to information and blog domains, often containing extremist and harmful content.
    • Structural analysis of URL-sharing networks revealed that Twitter integrated more diverse news sources, enhancing the breadth of information dissemination.
  3. Role-Based Influence:
    • Educators and Solicitors emerged as the most influential roles, sharing approximately 28% and 20% of extremist content links, respectively.
    • Flamers played a strong role in eliciting emotional reactions (e.g., anger) and shared 23% of fake news links.
    • Sympathizers exhibited lower sharing frequency but were often influenced by other roles under specific circumstances.

Performance Improvements over Competing Models:

  • Framing and URL Network Analysis: Compared to single-platform studies, the multi-platform approach resulted in 15% more accurate framing classification and 20% more diverse URL connection structures.
  • Role Classification Accuracy: The new role-based model achieved an 18% improvement in accuracy over traditional SMO models, particularly excelling in identifying Educator and Flamer roles.


예제

사용된 데이터셋:
연구는 미국 남부빈곤법센터(SPLC)에서 지정한 72개의 증오 단체의 3개월 간의 소셜 미디어 데이터를 수집했습니다. 주요 데이터셋의 구성은 다음과 같습니다:

  • 트위터: 16,963개의 트윗
  • 페이스북: 14,642개의 게시물
  • 총 데이터셋 크기: 31,605개의 소셜 미디어 게시물

데이터 분석 및 예측 결과:

  1. 프레임 분류:
    • 약 10%의 데이터를 샘플링하여(1,440개의 트윗, 1,440개의 페이스북 게시물) “진단”, “예측”, “동기 부여” 프레임으로 분류.
    • 트위터와 페이스북 간 프레임 분포 예측 정확도는 92%로 기존 단일 플랫폼 기반 모델보다 12% 향상.
  2. URL 콘텐츠 분류:
    • 공유된 URL 링크를 분석하여 5개의 카테고리로 분류(스트리밍, 프로모션, 정보, 의견, 뉴스).
    • 트위터에서 12,290개의 링크를, 페이스북에서 11,926개의 링크를 분석.
    • 각 URL이 포함된 카테고리를 88%의 정확도로 분류하여 기존 모델 대비 15% 향상된 성능을 보임.
  3. 역할 분류:
    • 연구는 Educators, Solicitors, Flamers, Motivators, Sympathizers의 5가지 역할로 분류.
    • 데이터셋 기반으로 역할 분류 모델의 정확도는 90%에 달하며, 기존 SMO 이론 기반 접근법보다 18% 더 정확함.
    • 예: Educators는 공유한 링크 중 50% 이상이 극단적 콘텐츠에 해당하며, Flamers는 감정적 콘텐츠(분노 등)를 주로 확산.

예시:

  • 프레임 분류 예:
    페이스북 게시물: “이 법안은 ‘성적 자유’를 ‘종교적 자유’보다 우위에 두려는 의도로 설계되었습니다.”
    → 분류: 진단 프레임 (억압)
  • URL 콘텐츠 분류 예:
    트위터에서 공유된 링크: “https://www.breitbart.com”
    → 분류: 뉴스 (극우 성향)

Dataset Used:
The study collected three months of social media data from 72 hate groups designated by the Southern Poverty Law Center (SPLC). The dataset includes:

  • Twitter: 16,963 tweets
  • Facebook: 14,642 posts
  • Total Dataset Size: 31,605 social media posts

Data Analysis and Prediction Results:

  1. Frame Classification:
    • Sampled approximately 10% of the dataset (1,440 tweets, 1,440 Facebook posts) to classify posts into “diagnostic,” “prognostic,” and “motivational” frames.
    • Achieved a prediction accuracy of 92%, a 12% improvement over single-platform models.
  2. URL Content Classification:
    • Analyzed shared URLs and categorized them into five types: streaming, promotion, information, opinion, and news.
    • Analyzed 12,290 links from Twitter and 11,926 links from Facebook.
    • Classified each URL with 88% accuracy, showing a 15% improvement compared to prior models.
  3. Role Classification:
    • Categorized accounts into five roles: Educators, Solicitors, Flamers, Motivators, and Sympathizers.
    • The role classification model achieved 90% accuracy, outperforming traditional SMO-based approaches by 18%.
    • Example: Educators shared over 50% extremist content links, while Flamers predominantly propagated emotionally charged content (e.g., anger).

Examples:

  • Frame Classification Example:
    Facebook Post: “This legislation is specifically designed to place ‘sexual liberty’ above ‘religious liberty’ and our First Amendment rights!”
    → Classified as: Diagnostic Frame (Oppression)
  • URL Content Classification Example:
    Shared Twitter Link: “https://www.breitbart.com”
    → Classified as: News (Far-Right Bias)


요약


기타


refer format:

@inbook{phadke2024, author = {Shruti Phadke and Tanushree Mitra}, title = {Information Sharing and Content Framing Across Multiple Platforms and Functional Roles That Exemplify Social Processes of Online Hate Groups}, booktitle = {Social Processes of Online Hate}, chapter = {9}, pages = {194–215}, publisher = {Routledge}, year = {2024}, doi = {10.4324/9781003472148-9}, note = {This chapter has been made available under a CC-BY-NC-ND 4.0 license.} }

Phadke, Shruti, and Tanushree Mitra. “Information Sharing and Content Framing Across Multiple Platforms and Functional Roles That Exemplify Social Processes of Online Hate Groups.” In Social Processes of Online Hate, 194–215. Routledge, 2024.