Soyo 如何回應危機

1. 偵測

對於每一則為取得伺服器回覆而傳送的訊息，我們的伺服器都會作出檢查；在此檢查完成前，你不會收到任何回覆。伺服器亦會檢查「今日的一句話」的提問。首先，系統會以涵蓋 Soyo 各種語言的詞彙清單進行比對；其後，Cloudflare Workers AI 上的 AI 分類器會就該訊息回答一組固定的問題。

分類器會評估撰寫者自殺或自我傷害的風險。風險級別由沒有跡象、被動的求死念頭、主動的念頭，以至有計劃、方法、意圖或近期曾經嘗試。分類器亦會找出即時危險、傷害他人的意圖、虐待、醫療緊急情況，以及撰寫者可能未滿 18 歲的跡象。

App 亦會在你的 iPhone 上檢查危機詞彙。在你給予同意前，這是唯一的檢查，而 App 不會傳送任何資料。

2. 轉介

當檢查發現明確的風險跡象時，App 會隨 Soyo 的回覆顯示一張卡片。例子包括主動的自殺或自我傷害念頭、虐待及醫療緊急情況。卡片會列出你所在地區的求助熱線及當地的緊急電話號碼。

在你給予同意前，卡片仍會出現：App 會在你的 iPhone 上找出危機詞彙，並在 iPhone 上顯示一則固定訊息及求助熱線。求助熱線絕不屬於 Soyo Pro 或任何其他付費功能。

3. 安全地回應

在最高風險級別時，Soyo 不會使用 AI 模型，而會傳送一則我們預先撰寫的固定訊息，鼓勵你立即聯絡求助熱線或緊急服務。

在其他較高的風險級別時，我們的伺服器會指示模型保持回覆簡短而溫暖，並直接詢問你是否安全。模型只可提及卡片上的求助熱線，不可提供任何其他號碼。

Soyo 的指示禁止模型提供有關自殺、自我傷害或暴力的方法、劑量或手段的細節，即使用於故事或遊戲亦然；亦禁止模型將自殺描述為解決方法或解脫。Soyo 會捨棄關於自殺或自我傷害的記憶建議。

4. 絕不阻礙求助

免費方案的每日訊息上限，絕不會阻擋危機訊息、固定訊息或求助熱線。對於 Soyo 曾察覺到明確困擾跡象的對話，該上限亦不會令對話中止。我們伺服器的頻率限制絕不會阻止危機回覆：即使某部裝置傳送的請求過多，只要其最新訊息含有危機詞彙，伺服器仍會傳送固定訊息及求助熱線。

5. 確保求助熱線正確

我們自行維護一份求助熱線清單。AI 模型絕不會自行編造電話號碼。App 本身亦存有一份清單副本，因此即使沒有我們的伺服器，「同真人傾吓」仍可運作。我們最少每季度檢查一次該清單，並會在於新的國家推出服務前進行檢查。

限制

自動檢查可能會遺漏風險，或錯誤地標示風險。沒有任何人監察對話。Soyo 無法代你致電緊急服務。

我們的私隱政策說明安全檢查會處理哪些資料；我們的使用條款說明 Soyo 是甚麼、不是甚麼。

AI 及未成年人

Soyo 是 AI。App 會在你首次啟動時告知你這一點。Soyo 供 18 歲或以上的成年人使用。陪伴型聊天機械人未必適合部分未成年人。

如檢查顯示某人可能未滿 18 歲，Soyo 會令其回覆保持適合未成年人的內容，並避免涉及浪漫或性的內容，亦會鼓勵對方與其信任的成年人談談，例如老師、學校輔導人員，或令對方感到安心的家人。