Soyo 如何回應危機

1. 偵測

對於每一則為取得伺服器回覆而送出的訊息，我們的伺服器都會進行檢查。在這項檢查完成之前，你不會收到任何回覆。伺服器也會檢查「今天的一句話」的提問。首先，會以涵蓋 Soyo 各支援語言的詞彙清單進行比對；接著，由 Cloudflare Workers AI 上的 AI 分類器針對該訊息回答一組固定的問題。

分類器會評估撰寫者自殺或自我傷害的風險。等級從沒有跡象、被動的求死念頭、主動的念頭，到有計畫、方法、意圖或近期曾經嘗試。它也會找出立即的危險、傷害他人的意圖、虐待、醫療緊急情況，以及撰寫者可能未滿 18 歲的跡象。

App 也會在你的 iPhone 上檢查危機詞彙。在你同意之前，這是唯一的檢查，而且 App 不會傳送任何資料。

2. 轉介

當檢查發現明確的風險跡象時，App 會隨 Soyo 的回覆顯示一張卡片，例如在出現主動的自殺或自我傷害念頭、虐待或醫療緊急情況時。這張卡片會列出你所在地區的求助專線和當地的緊急電話號碼。

在你同意之前，這張卡片仍會出現：App 會在你的 iPhone 上找出危機詞彙，並在 iPhone 上顯示一則固定訊息和求助專線。求助專線絕不屬於 Soyo Pro 或任何其他付費功能。

3. 安全地回應

在最高風險等級時，Soyo 不會使用 AI 模型，而是傳送一則我們事先撰寫的固定訊息，鼓勵你立即聯絡求助專線或緊急救援單位。

在其他較高的風險等級時，我們的伺服器會指示模型讓回覆保持簡短、溫暖，並直接詢問你是否安全。模型只能提及卡片上的求助專線，不能提供任何其他號碼。

Soyo 的指示禁止模型提供有關自殺、自我傷害或暴力的方法、劑量或手段的細節，即使是為了故事或遊戲也一樣；也禁止模型把自殺描述為解決方法或解脫。Soyo 會捨棄與自殺或自我傷害有關的記憶建議。

4. 絕不阻擋協助

免費方案的每日訊息上限，絕不會阻擋危機訊息、固定訊息或求助專線。如果 Soyo 在某段對話中看到明確的痛苦跡象，每日上限也不會阻擋這段對話。我們伺服器的頻率限制絕不會阻擋危機回覆：即使某台裝置傳送的請求過多，只要其最新訊息含有危機詞彙，伺服器仍會傳送固定訊息和求助專線。

5. 確保求助專線正確

我們自行維護一份求助專線清單。AI 模型絕不會自行編造電話號碼。App 本身也存有這份清單的副本，因此「和真人聊聊」不需要我們的伺服器也能使用。我們至少每季檢查一次這份清單，並在於新的國家推出服務之前進行檢查。

限制

自動化檢查可能會遺漏風險，也可能誤判。沒有任何人監看對話。Soyo 無法替你撥打電話給緊急救援單位。

我們的隱私權政策說明安全檢查會處理哪些資料；我們的使用條款說明 Soyo 是什麼、不是什麼。

AI 與未成年人

Soyo 是 AI。你第一次啟動 App 時，App 就會告訴你這一點。Soyo 以 18 歲以上的成年人為對象。陪伴型聊天機器人可能不適合某些未成年人。

如果檢查顯示某人可能未滿 18 歲，Soyo 會讓回覆保持適合未成年人的內容，並避免浪漫或性相關的內容，也會鼓勵對方與信任的成年人談談，例如老師、學校輔導老師，或讓對方感到安心的家人。