ביום 22.11.2022, פרסם ה-Oversight Board, גוף הפיקוח של חברת Meta כחלק מהחלטה בערעור על הסרת תוכן, המלצות ותובנות בעניין הסרת תכנים "אלימים", תוך התייחסות ספציפית לתכנים אלה כאשר הם מדווחים על ידי רשויות אכיפה מדינתיות.
בנושא של תכנים העלולים להוביל לאלימות, המדיניות של Meta שואפת "למנוע פגיעה פוטנציאלית במצב לא מקוון", ולכן תסיר תוכן הכולל שפה "מסיתה או מקלה על אלימות חמורה" וש"מהווה סיכון אמיתי לפגיעה פיזית או איומים ישירים על ביטחון הציבור".
בהחלטה, גוף הפיקוח הציג כי כדי לקבוע שתוכן מהווה איום "מרומז" לפי כלל הקהילה של אלימות והסתה, Meta משתמשת בהנחיות פנימיות ולא פומביות אשר בודקות האם קיים איום מוסתר. לצורך כך, על מנהלי התוכן לזהות גם אות ראשי וגם אות משני אשר יסמנו את התוכן. במקרה זה, גוף הפיקוח הסכים עם החלטת Meta כי אכן קיים אות ראשי כי התוכן עלול להוביל לאלימות. עם זאת, זיהוי איום מרומז מצריך גם איתות משני המראה כי התוכן "עלול להיות מאיים ו/או עלול להוביל לאלימות קרובה או לנזק פיזי". האות הזה תלוי בהקשר המקומי, המסופק לרוב על ידי צדדים שלישיים כגון רשויות אכיפת החוק.
ההחלטה של גוף הפיקוח חשובה מכיוון שהיא מדגישה שעל אף שיש להישען על רשויות האכיפה עקב מקצועיותן, אין להוריד כל תוכן שהן היו מעדיפות להוריד – ואפילו לא כל תוכן שיש לו פוטנציאל להוביל להסלמה באלימות. לפי הגוף, יש חשיבות רבה לכך ש-Meta תעריך את הבקשות הללו בעצמה ותגיע למסקנה עצמאית ותדרוש ראיות ספציפיות לאופן שבו התוכן גורם לנזק.
גוף הפיקוח מכירה באופי ההקשרי העמוק של החלטות תוכן מסוג זה שעל Meta לקבל, בזמן מהיר עקב הסיכונים לנזק חמור. אנשים סבירים עשויים להבדיל, כמו במקרה זה, בשאלה האם תוכן מסוים מהווה איום מרומז. ובכל זאת, חוסר השקיפות לגבי ההחלטות של Meta להסיר תוכן הנובע מבקשות ממשלה מקשה להעריך אם הטעות של Meta במקרה בודד משקפת אי הסכמה סבירה או מעידה על הטיה מערכתית אפשרית. Meta מתעקשת ש"ניתוח האיומים" שלה הוא עצמאי, אבל בהקשר הזה, האמירה של Meta אינה מספיקה. Meta מצהירה כי היא מעריכה את התוכן מול כללי הקהילה באותה צורה שהיא מבצעת עבור כל פיסת תוכן אחרת, ללא קשר לאופן זיהויו. עם זאת, "ניתוח האיומים " מציב את רשויות האכיפה הן בעמדה של דיווח על התוכן (כלומר, סימון אות ראשי), והן מתן כל המידע ההקשרי ש-Meta צריכה כדי להעריך נזק פוטנציאלי (כלומר, מתן הידע המקומי הדרוש לאות המשני).