Sicurezza
Come Soyo risponde alle situazioni di crisi
Questa traduzione è fornita per comodità. In caso di differenze rispetto alla versione inglese, si applica la versione inglese, salvo che le norme imperative del luogo in cui Lei vive diano efficacia alla versione nella Sua lingua.
Se è in pericolo adesso
- Chiami subito il numero di emergenza locale. Negli Stati Uniti, chiami o invii un SMS al 988.
- Trovi una linea di aiuto vicino a Lei (si apre in una nuova scheda).
- Nell’app, Impostazioni › Aiuto e informazioni › Parlare con una persona elenca le linee della Sua zona.
- Soyo è un compagno basato sull’IA. Non è una persona, e non è un servizio di assistenza per le crisi, un terapeuta né un servizio di emergenza.
1. Individuare
Il nostro server controlla ogni messaggio inviato per ottenere una risposta dal server. Nessuna risposta Le arriva prima della fine di questo controllo. Il server controlla anche le domande di «La parola di oggi». Per prima cosa, viene applicato un elenco di parole nelle lingue di Soyo. Poi un classificatore di IA su Cloudflare Workers AI risponde a domande prestabilite sul messaggio.
Il classificatore valuta il rischio di suicidio o autolesionismo per la persona che scrive. I livelli vanno dall’assenza di segnali, a un desiderio passivo di morte, ai pensieri attivi, fino a un piano, un metodo, un’intenzione o un tentativo recente. Cerca anche pericoli immediati, l’intenzione di fare del male ad altri, abusi, emergenze mediche e segnali che chi scrive possa avere meno di 18 anni.
L’app controlla anche la presenza di parole di crisi sul Suo iPhone. Prima che Lei dia il consenso, questo è l’unico controllo, e l’app non invia nulla.
2. Indirizzare
Quando il controllo rileva chiari segnali di rischio, l’app mostra una scheda insieme alla risposta di Soyo. Ad esempio, in caso di pensieri attivi di suicidio o autolesionismo, abusi ed emergenze mediche. La scheda indica le linee di aiuto per la Sua regione e il Suo numero di emergenza locale.
Prima che Lei dia il consenso, la scheda compare comunque: l’app individua le parole di crisi sul Suo iPhone e vi mostra un messaggio predefinito e le linee di aiuto. Le linee di aiuto non fanno mai parte di Soyo Pro né di altre funzioni a pagamento.
3. Rispondere in modo sicuro
Al livello di rischio più alto, Soyo non usa il modello di IA. Invia un messaggio predefinito che abbiamo scritto in anticipo. Il messaggio La incoraggia a contattare subito le linee di aiuto o i servizi di emergenza.
Agli altri livelli elevati, il nostro server chiede al modello di mantenere la risposta breve e calorosa, e di chiederLe direttamente se è al sicuro. Il modello può indicare solo le linee di aiuto presenti nella scheda, e nessun altro numero.
Le istruzioni di Soyo vietano al modello di fornire dettagli su metodi, dosi o mezzi di suicidio, autolesionismo o violenza, anche per storie o giochi. Gli vietano inoltre di descrivere il suicidio come una soluzione o un sollievo. Soyo scarta i ricordi suggeriti sul suicidio o sull’autolesionismo.
4. Non bloccare mai l’aiuto
Il limite giornaliero di messaggi gratuiti non blocca mai un messaggio di crisi, il messaggio predefinito o le linee di aiuto. Non blocca nemmeno una conversazione in cui Soyo ha visto chiari segnali di sofferenza. I limiti di frequenza del nostro server non bloccano mai una risposta di crisi: se un dispositivo ha inviato troppe richieste e il suo messaggio più recente contiene parole di crisi, il server invia comunque il messaggio predefinito e le linee di aiuto.
5. Mantenere corrette le linee di aiuto
Manteniamo un nostro elenco di linee di aiuto. Il modello di IA non inventa mai un numero di telefono. L’app ha una propria copia dell’elenco, quindi «Parlare con una persona» funziona anche senza il nostro server. Verifichiamo l’elenco almeno ogni trimestre, e prima di avviare il servizio in un nuovo paese.
Limiti
I controlli automatici possono non cogliere un rischio, o segnalarlo per errore. Nessuna persona monitora le conversazioni. Soyo non può chiamare i servizi di emergenza al posto Suo.
La nostra Informativa sulla privacy spiega cosa trattano i controlli di sicurezza. I nostri Termini d’uso spiegano cosa Soyo è e cosa non è.
IA e minori
Soyo è un’IA. L’app Le comunica questo al primo avvio. Soyo è per adulti dai 18 anni in su. I chatbot di compagnia potrebbero non essere adatti ad alcuni minori.
Se i controlli suggeriscono che una persona possa avere meno di 18 anni, Soyo mantiene le risposte adatte a un minore ed evita contenuti romantici o sessuali. Incoraggia inoltre quella persona a parlare con un adulto di cui si fida, come un insegnante, uno psicologo scolastico o un familiare con cui si sente al sicuro.