文：Katy Steinmetz譯：李宓
Ethan Cohen第一次在Instagram上遭到霸凌時，他試圖一笑置之。
來自北卡羅來納州羅利市（Raleigh）的Ethan就跟其他同齡的孩子一樣，興沖沖地在中學的時候開始使用Instagram，接著突然有一天，他發現大家都在對著某個帳號竊笑。原來，有人（Ethan至今仍不知是誰幹的）偷偷摸摸拍下他的照片，上傳到名為「ethan_cohens_neck_vein」的帳號，上頭的照片似乎全都是用來嘲笑他脖子上一條特別明顯的肌肉。其中一篇貼文把那條肌肉形容成中國的萬裡長城，另一篇則說可以用「聯立方程式」來計算它的尺寸。
在朋友面前，Ethan裝做毫不在乎，一副那只是無聊玩笑的樣子，但私底下他其實很受傷。顯然有人尾隨在他後頭，偷拍並上傳帶有戲謔意味的照片，讓所有人欣賞。現年18歲的Ethan說：「就是因為不知道是誰，所以才很詭異。」他多次向Instagram檢舉那個帳號，但儘管使用規範明確禁止嘲弄他人的身體特徵，那個帳號卻也沒有被下架。
Instagram表示，如果事情發生在今天，就會有不一樣的結果。精密的檢舉工具和評斷機制很快就能把帳號關掉。而且，在不久的將來，Instagram希望能達成更宏大的目標：利用人工智慧鎖定攻擊、羞辱或不尊重的行為，並加以刪除——和Ethan有類似經歷的受害者，甚至不必自己動手檢舉。
我們總是指責社群媒體是許多問題的罪魁禍首，政府也不斷施壓，要求社群公司證明他們可以自制。在這樣的情況下，Instagram選擇向霸凌宣戰。Instagram負責人Adam Mosseri說：「這是關鍵的時刻，我們希望帶領整個產業一同抗爭。」
Instagram該如何擺脫「惡霸一站式購物中心」的情況？
有鑑於Instagram是年輕人使用率最高的平台，這麼做非常合理。年輕人對Instagram的迷戀，使霸凌之於Instagram就像假新聞之於臉書，或是引戰之於Twitter：為了和其他人聚在一起，而無法避免的毒瘤。
有人曾經估計，將近80%的青少年都有Instagram帳號，而且有超過一半的用戶都曾在上頭遭到霸凌——情況遠比脖子的玩笑更惡劣。升上高中，Ethan在Instagram上出櫃，一位校園風雲人物因此私訊轟炸他，稱他是「死gay炮」、「被墮胎失敗的孩子」。Instagram使用者承受許多侮辱和威脅，影響至深。看得更廣一點，Instagram等平台上的霸凌行為也曾被指與自我傷害有關。
亞利桑那大學的諮商學教授Sheri Bauman研究霸凌的因果關係長達數年，她稱Instagram為「惡霸的一站式購物中心」，他們需要的全都在那：受眾、匿名性、強調外貌，還有公開貼文和私訊聊天等多種溝通管道。Instagram高層坦承，當他們設法吸引更多使用者和關注時，每一項新功能也都成了霸凌的新途徑。對此，Instagram公共政策負責人Karina Newton表示：「現在年輕人的創意不容小覷。」
Mosseri接下這個位子才沒多久。Instagram創辦人於去（2018）年底突然離職（據傳是和母公司臉書產生摩擦），隨後便由臉書的資深員工接任。Mosseri過去靠著管理臉書動態消息，磨練了自己的危機處理能力。現年36歲的他，誓言要為Instagram開創新的世代，將使用者的身心健康視為優先。而解決霸凌問題讓目標逐漸有了輪廓。Mosseri是個極其認真、投入的工程師兼設計。他的團隊時時刻刻都將霸凌問題放在心中，進行大規模調查，推出新功能，改變公司既有規則。
然而，這場戰爭的戰況激烈，還很可能造成其他連帶傷害。Instagram目前是臉書公司當紅的部門，如果太激進，用嚴格的規範，和讓人覺得受侵犯的審核機制，可能會趕跑使用者。但如果做得不夠，尤其在他們誓言要為這個產業立下新標準的前提之下，便可能招來旁人的譴責，說他們將利益置於兒童保護之上。
此外，還有高如聖母峰的技術性障礙要跨越。
若打算設計一套能夠對付霸凌的人工智慧，意味著要讓機器精通一門充滿複雜細節，且仍在發展中的學問。Instagram也必須非常小心，不能侵犯言論自由。工程師設計出來的工具必須能夠找到他們該找的，而不是去限制他們不該限制的東西。Mosseri說：「我確實會擔心，只要一個不小心，我們就可能越界。」但他也說，沒有什麼比平台的文明性更重要，連公司的成長也比不上。他告訴《TIME》：「我們會採取所有讓用戶更安全的作為，儘管那意味著降低Instagram的使用率。」
獲利和道德，應該如何平衡？
人們每用Instagram一小時，臉書公司就會獲利。要是有人因為額外的安全措施或限制而選擇離開，那麼利潤也會跟著消失。
當問到Instagram打擊霸凌的動作是否和公司的財務狀況有關時，Mosseri回覆，如果Instagram無法遏止霸凌現象，他們不僅在道德上讓用戶失望，也令公司蒙羞。他說：「長時間下來，這會傷害我們的聲譽和品牌形象，進而讓我們在結盟上受阻。有太多可能會傷害到公司的可能。如果不想辦法解決產品所延伸出來的問題，我相信總有一天，問題會回到我們頭上，並讓我們付出嚴重的代價。」
Instagram在2010年正式上線，由兩個二十多歲的年輕人Kevin Systrom、Mike Krieger共同創辦。他們希望用戶能透過這個照片分享app，讓生活看起來更加美好。而他們的目標也達成了。
短短一年內，每星期都有超過50萬人註冊Instagram帳號。但很快的，大家也開始用Instagram做一些不那麼美好的事。兩位創辦人在早期還得自己下海，刪除惡意留言、限制人們引戰。在他們離開之際，Instagram用戶已超過10億人，遠遠超過人力可管控的程度。因此，就跟所有社群媒體一樣，Instagram也為了防堵恐攻思想、兒童色情片等非法內容，轉而向電腦求助。
為了讓Instagram成為更友善、溫和的空間，兩位創辦人借用了臉書的人工智慧技術：DeepText，這項技術能讀懂並分析平台用戶所使用的語言。早在2016年，Instagram工程師便利用這項技術來鎖定垃圾訊息。隔年，他們訓練這套程式尋找並封鎖帶有攻擊性的言論，包括種族攻擊。
到了2018年中，這項技術也被用來尋找霸凌的言論。去（2018）年10月，Mosseri接任後一週，Instagram宣布，他們不只要用人工智慧探查貼文底下的留言，尋找霸凌的跡象，他們還要利用電腦偵查照片中的霸凌元素。也就是說，他們將用人工智慧來分析每一則貼文。
說起來比做起來容易。
AI辨識霸凌內容的原理是什麼？
當工程師要教一台電腦執行新的任務時，首先，他們得建立一套訓練系統——用白話文來說，就是各種能幫助電腦了解新工作內容的素材。以Instagram的例子來說，第一步是請人類審核員過濾成千上萬張照片，將貼文分成「含霸凌元素」和「不含霸凌元素」兩類。分類完成之後，將這些範本輸進所謂的分類器當中。接著，分類器會像一流的警犬一樣，只要鬆開繩子，就會嗅出你希望牠們找到的物件。
想當然耳，這些初始範本不可能涵蓋分類器實際運作時，可能遇到的所有案例。不過，當分類器標記出某些內容，並經過人類評斷其正確性之後，分類器就會從這些額外的範例當中學習。最理想的狀態是，有工程師在一旁幫忙微調學習軌跡，分類器的準確度會越來越高。
時至今日，一共有三套分類器負責審核Instagram上的內容，尋找霸凌的跡象：一套負責分析文字、一套分析相片，另一套則分析影片。他們時時刻刻都在工作，每個鐘頭都在標記不合格的內容。然而，就像首席工程師Yoav Shapira所言：「一切都才剛起步而已。」也就是說，分類器錯過了許多霸凌行為，而它們認為含有霸凌元素的貼文，也未必真是如此。Shapira團隊的任務，就是改正這個現象。
這之所以困難重重，其中一個原因在於，相較於訓練機器辨識裸露內容，辨識霸凌困難多了：前者，只要判斷照片裡的人有沒有穿褲子即可，後者則包含各式各樣的行為。
網路霸凌的相關研究在受霸凌人數方面有很大的出入，可能低至5%，或高達72%，可能是因為沒人能清楚界定到底何謂網路霸凌。Instagram公共政策負責人Karina Newton說：「霸凌之所以這麼難以根除，其中一個原因就在於它的定義因人而異。」工程師必須確切知道哪些行為算是霸凌，哪些不算，這樣才能建立一套紮實的訓練系統。
Instagram上的霸凌行為也隨時間而變得不同。有很多是所謂的「老派霸凌」，據Instagram的研究，最常見的包含惡劣的留言、侮辱和威脅。這類霸凌還算容易攔截，舉例來說，Instagram的文字分類器就很擅長辨識類似這樣的字串：「你這醜得要命，牙齒還漏風的賤人」、「你女兒是蕩婦」。然而，謾罵的言詞會隨著時間改變，不同文化也有不同的罵人法，青年文化尤其特殊。除此之外，要辨識出帶攻擊性的行為，首要條件是理解整個句子，不能只靠其中幾個詞。看看下面這兩個句子的意思差了多少：「等等我，我馬上過去」、「給我等著，我馬上過去」。
用戶所受到的傷害，不止來自言語。Instagram上有許多所謂的「黑特帳號（hate pages）」，這些匿名帳號專門用來取笑某些人，或將他們去人格化。男性可能會在分手後拍下他和其他女生在一起的照片，然後標記他的前女友。女性可能會在相片上標記一大堆朋友，但刻意忽略某個人。還有些人會截圖其他人的照片，調整之後分享出去，或在聊天室裡大肆嘲笑。此外還有些人會一再騷擾別人，像是在每則貼文底下，回覆同一個貼圖，行為就像是跟蹤。
許多青少年都有過這樣的經驗：自己出糗的照片或影片，在未經同意的情況下，在網路上流傳。或是自己成為「辣？不辣？」投票的主角（類似Mark Zuckerberg在唸哈佛時期創辦的排名網站Facemash）。
Shapira說：「看起來沒有可稱作是霸凌的行為，一切都非常單純。」
為了開發出成效更好的人工智慧，Instagram發出上千份問卷，希望能從旁觀者的角度，更了解霸凌的各種形式。（使用者的回覆也讓Instagram得以評估霸凌情形的普遍程度。相關數據計畫在今年稍晚公布。）根據Karina Newton的說法，Instagram公司對霸凌的現行定義是：意圖「騷擾或羞辱他人」的內容。Shapira的團對則進一步將霸凌分成七個子類別：謾罵、羞辱、威脅、認同攻擊、不尊重、騷擾和出賣。首要計畫是讓人工智慧能理解每個子類別各自的概念。Shapira說：「從工程學的角度來看，這麼做的金錢效率很低，但卻是解決問題最好的方法。」
由於霸凌與否經常得視情況而定（有時可能只是圈內笑話，有時則取決於雙方關係的親密程度），Instagram的工程師也在努力尋找辦法，利用帳戶的活動情形來分辨有心和無意。
以「ho（譯者註：指慾求不滿、性生活頻繁的女性）」這個字來說，如果一個男人稱一個女人為「ho」，那就算是霸凌。反之，如果一個女人稱另一個女性朋友為「ho」，那就不是霸凌。同樣的，如果某個人說了一次「這照片真讚」，他可能是想要稱讚。然而，如果他在某人所有的貼文底下都這麼回覆，那就顯得可疑了。工程師必須從中學會辨別這些關係的訊號：兩個帳號經常互相標記嗎？任何一方曾經封鎖另一方嗎？用戶名稱跟過去曾被除名的帳號類似嗎？帳號是否反覆貼出類似這樣的句子：「去某人的帳號，用這張照片轟炸他的私訊匣。」
在相片和影片方面，分類器就不再那麼精準、進步。負責分析用戶回報的工程師和審核員還沒找到確切的模式，但大原則已經出來了。比方說，分割畫面通常都含有霸凌的元素，尤其當偵測到的畫面一邊是人，另一邊則是動物時，可能性更高。三人合照中，若有其中一人臉上被畫了紅色的大叉叉，那很可能也是霸凌。濾鏡則往往是善意的象徵，因為人們通常不會美化受害者。
Instagram團隊也漸漸學會分析照片主角的姿勢，像是假如拍攝的角度是「由下而上」，那很可能就是偷拍的相片。因此，如果相片裡的一個人呈站姿，另一個的姿勢卻像是「受害者」，那就得格外留意了。
Shapira說，研究員每週都會將他們的發現寫成報告，而幾乎每週都會有他們從沒想過的霸凌形式。儘管如此，在臉書團隊和資源的幫助之下，Instagram公司負責用戶身心的員工相信，他們不僅能攻克各路專家長期以來困擾不已的挑戰（像是建造一台理解何謂諷刺的電腦），還能知道要怎麼用人工智慧來辨識像是「朋友懼怕揪團沒找你（intentional FOMO）」的新現象，或是中學生用來嘲笑同脖子的帳號。
言論自由和防範霸凌的界線，該怎麼拿捏
Instagram公司還有很多數據不願公布，像是在他們的1200位員工，或臉書的37700位員工當中，有多少人負責霸凌問題。他們也不願公布現行分類器的錯誤率，或標記給審核員的內容究竟有多少。人們現階段對人工智慧的期待，往往高過其實際能力。而對科技的信心，則是高得衝破天際。Shapira說：「會改善的，再過一兩年左右。」
Mosseri在產業最艱困的時刻接下了目前最強盛的社群媒體。5月中，我和他在Instagram舊金山分公司一間寬敞明亮的辦公室會談，討論霸凌一事。這是他在美國第一次公開受訪， 而且就在不久前，白宮才邀請了一群自認被社群媒體公司審查的民眾，來跟總統聊聊他們的故事。在那之前不久，臉書的一位共同創辦人主張，是時候拆分臉書權力了。
考慮到不可能有一套標準清楚界定Instagram的人工智慧和審核員可以嚴苛到什麼地步，我問他，當他在制訂反霸凌策略時，是否受到言論自由牽制。他說，他們必須很小心，「言論超級重要」。但他也強調，Instagram必須有所作為。好幾年來，網路公司刻意和平台上的一切保持距離，不負任何責任。但隨著政治氛圍更加謹慎，公司高層的行事也更加負責。他說：「有鑑於我們的規模，我們肩負了重責大任。」
危機四伏，但Mosseri很熟悉棘手的處境。2008年，他加入臉書公司，擔任設計師。後來，也組了一支團隊，負責管理臉書的動態消息。而用戶主頁上那些毫無止境的動態，正是爭議的中心。2016年大選期間，眾人的引戰和外國勢力的干擾、操弄，也始於臉書的動態消息。有鑑於此，Mosseri組成了「廉政小組」，親自監管人工智慧的開發，意圖根除假消息等複雜的病灶。在這期間，他與祖克柏熟識，2018年初，被指派為Instagram的產品主管，之後更一舉登上Instagram負責人的職位。
隨著Instagram努力讓霸凌的定義更臻完善，Mosseri相信他們能夠建立一套標準，用人工智慧止住欺凌，甚至開發出其他公司也願意採用的系統。於此同時，他也致力於尋找各種方法，讓Instagram的廣大用戶在電腦的輔助之下，一起幫忙解決這個問題。他說：「人們經常將科技和人性置於對立面。但我的看法是，人類和科技可以，而且也應該攜手合作。」
Instagram即將在今年推出兩項新功能，作為上述理想之實踐。其一稱為「留言警告」：假如某人決定在某篇貼文下留言，而Instagram的霸凌分類器認定該貼文有霸凌的「嫌疑」，那麼系統就會跳出提示，請使用者三思而後行。Instagram身心健康小組的一位設計師Francesco Fogu說：「這是給用戶的小提醒，告訴你：『嘿，這可能不太禮貌喔。』而不是直接禁止你發布訊息。」這也讓Instagram免於面對霸凌和言論自由之間的微妙界線。
第二項功能，叫做「限制」（Restrict）。Instagram的調查發現，青少年非常討厭封鎖霸凌他們的同學，這一方面讓他們受傷的情緒漏了餡，另一方面，也讓他們無從得知霸凌者可能的下一步。「限制」功能隱晦多了。你很容易就會發現自己被封鎖，但要發現自己被限制，就沒那麼容易。被霸凌的對象有權審核霸凌者帳號所張貼的任何留言，他可以選擇核可、刪除，或讓它永遠停在「待審核」狀態（如此一來，除了霸凌者自己，其他人都不會看到這則留言）。私訊匣也有類似功能。如果霸凌者想在公開貼文上標記某個用戶，Instagram不會自動跳出該用戶的名字，霸凌者得完整打出那個人的帳號名才行。Fogu說，這些設定會拉開雙方的距離，「讓霸凌者更難欺負別人」。
Instagram還在產品開發的過程中，多加了一道步驟。在任何東西上市之前，都必須經過審查，了解該產品被「武器化」的任何可能，而這也包含了霸凌。假如該功能明顯容易淪為霸凌的工具，Karina Newton說，他們便會考慮撤下該功能，即使它再受歡迎也一樣。
除了主動對用戶呼籲，Instagram還能多做些什麼？
整體而言， Instagram看似比任何公司都更努力在打這場仗，但他們還是忽略了某些可能的解方。我們為了這篇報導，進行了多次訪談，出現最多的疑慮便是Instagram的匿名性。這項特性使得青少年得以經營所謂的「懺悔」或「譴責」帳號，用以散布八卦、扭曲同儕。這也讓用戶能夠輕易去除他人的人格，助長惡劣的行為。當問道Instagram是否考慮和臉書一樣採實名制時，Mosseri並未排除這個可能，但也沒有積極想要這麼做——畢竟這會直接影響他們大部分的用戶。
他說：「確實，當有責任歸屬存在，人們會更注意自己的行為。而責任歸屬有部分來自於大家知道你是誰。但匿名性也帶來許多好處。人的身分非常複雜。」
以他自己為例，他有兩個年紀太小，還無法使用Instagram的孩子（儘管人們經常不遵守規定，但照理來說，未滿13歲的孩子不能註冊Instagram）。於是，Mosseri替他們經營帳號，好讓親戚追蹤。他還說，對正在探索性別認同或性傾向的年輕人來說，匿名性也讓他們保有隱私。此外人們還可以追求不同於線下生活的興趣。Mosseri表明：「重點是我們如何了解人們的動機、如何解決問題，而且避免破壞好的那一面。」
隨著外界對科技公司的監督越來越謹慎，而且還有研究報告指出，霸凌並不是成長過程中無足輕重的小事，這些公司在處理霸凌事件時所受的壓力也越來越大。對很多青少年來說，Instagram是他們接觸的第一個社群媒體，再加上這個時代的年輕人比過去更孤獨、憂鬱——一切都使他們更加脆弱。許多學者認為，社群媒體必須為上述現象負起部分責任，畢竟發生在這些平台上的霸凌現象確實對青少年的心理健康有害。雖然有時可能只是稍微煩人了一點，但霸凌也經常被認為和自我傷害、自殺、自殺傾向，及成年之後的焦慮有關。
人身攻擊是這些平台上最典型的霸凌形式，但除此之外，還有不少單獨的案例，遠比人身攻擊更嚴重。2015年，12歲的Kennis Cady在紐約East Rochester的臥房上吊自殺，在昏迷一週後，不幸身亡。後續調查發現，許多同學提到他們曾經看過或聽說過有兩個八年級學生在Instagram上創了一個帳號，假裝她們是Kennis，並散布關於她的錯誤訊息，藉以捉弄Kennis。調查員懷疑Kennis生前可能試圖刪除帳號，但他們不曾找到那個帳戶。
Kennis的媽媽Michaela表示，她「真心相信」是社群媒體導致了她女兒的精神狀況。她說，Kennis在自殺前一天「非常沉默，看起來心情很低落」。
在接受《TIME》訪問之前，Mosseri只有一次公開受訪的紀錄。當時，英國一名年輕女孩自殺，而據她父親的說法，她在離世前，曾在社群媒體上瀏覽自殺、憂鬱等教人不安的內容。好巧不巧，Instagram在二月份也將自我傷害的相片列為管制內容，不允張貼。
真正該問的問題：人們為何會有這些霸凌的行為
Mosseri和Twitter執行長Jack Dorsey等社群媒體巨頭一樣，他說Instagram正在釐清人們對社群媒體極度焦慮的「核心原因」。人會做各式各樣糟糕的事情，像是為了證明自己的社交地位（也就是獲得更多的「讚」），而設法詆毀他人。因此，Instagram正在測試能否完全隱藏讚數。同時，他們也設法讓用戶暫時抽離社群媒體。其中一個正在開發中的功能叫做「暫離模式」，使用者可以設下時限，在這期間，他們不會收到通知，非聯絡人也無法聯絡他們。
此外，Instagram也在開發一套新程式，希望能藉此挑戰平台協助建立起的無敵高標。大多數青少年都會告訴你，如果你想激起旁人的嫉妒，你必須看起來迷人，但又不能太刻意。來自洛杉磯拉法葉市（Lafayette）、現年15歲的Courtney Broussard說：「可能會有人截圖，在你背後嘲笑你。只要你沒達到標準，就可能被網路霸凌。」
呼籲拆分科技巨擘的聲浪（例如要求Instagram從臉書公司中獨立出來）也逐漸登上電視新聞，或成為社會運動的訴求。對此，Mosseri的回應是，從母公司獨立出來「最大的缺點」，是他的團隊將無法使用人工智慧和相關技術，因而無法處理霸凌和騷擾等問題。他相信Instagram的規模（或說是責任）也是一項資產。確實，如果他們的規模比現在小一萬倍，那審核員就能審核每一則貼文和每一條訊息，這麼做也許就能輕易解決霸凌問題，但卻可能產生資安疑慮。他還說，以他們現在的規模，他們將能帶領整個產業，提升對網路霸凌的了解，並找到能與之抗衡的技術。
Mosseri表示，關鍵在於你是否認為人際連結，或甚至網路本身，對人性來說百利而無一害。他說：「一開始，科技本身並沒有好壞之別，科技就是科技而已。至於社群媒體，它是一種科技，通常也是一種強化器。重點在我們身上，我們必須確定被強化的是好事，而不是壞事。」
Instagram並沒有發明霸凌。只要是人類聚集的網路空間，就會有人被霸凌。上至總統，下至普通人，成人總是將網路霸凌正常化。專家指出，我們的社會失敗了，我們還沒教會孩子網路的運作方式，就放任他們遨遊。他們才剛要開始了解人際中各種權力關係的意義而已。Instagram還說，對抗霸凌不能只靠科技公司的力量，還得仰賴父母、學校和孩子自己的努力。
在德州，Kennis一家人找到了新的起點。她的母親Michaela說，她不認為女兒的死是Instagram的責任。她的女兒就像大部分遭受網路霸凌的孩子一樣，在現實生活也受人欺凌。但她也認為，社群媒體在今日社會過於盛行，若想解決這個問題，靠得不是更多的科技，而是相反。時至今日，社群媒體已成為生活的重心，要求受霸凌的孩子把電腦關掉或刪掉帳號，一點也不實際。
Michaela說，線上、線下世界的距離必須拉開，只有喘息的空間是不夠的。她說：「有了社群媒體，你連逃也不知道可以逃去哪。」
© 2019 Time Inc. 版權所有。經Time Inc.授權翻譯並出版，嚴禁未經書面授權的任何形式與語言版本轉載。
責任編輯：丁肇九核稿編輯：翁世航
