Seguridad
Cómo responde Soyo ante una crisis
Esta traducción se ofrece para su comodidad. Si difiere de la versión en inglés, se aplica la versión en inglés, salvo que la legislación imperativa del lugar donde usted vive dé efecto a la versión en su idioma.
Si está en peligro ahora
- Llame ahora a su número de emergencias local. En los Estados Unidos, llame o envíe un mensaje de texto al 988.
- Busque una línea de ayuda cerca de usted (se abre en una pestaña nueva).
- En la app, Ajustes › Ayuda e información › Hablar con una persona muestra líneas de su región.
- Soyo es un compañero de IA. No es una persona, ni un servicio de crisis, ni un terapeuta, ni un servicio de emergencias.
1. Detectar
Nuestro servidor revisa cada mensaje que se envía para obtener una respuesta del servidor. Ninguna respuesta le llega antes de que termine esta comprobación. El servidor también revisa las preguntas de «La palabra de hoy». Primero, se aplica una lista de palabras en los idiomas de Soyo. Después, un clasificador de IA en Cloudflare Workers AI responde a preguntas fijas sobre el mensaje.
El clasificador evalúa el riesgo de suicidio o autolesión de la persona que escribe. Los niveles van desde la ausencia de señales, pasando por el deseo pasivo de estar muerto y los pensamientos activos, hasta un plan, un método, la intención o un intento reciente. También busca peligro inmediato, intención de hacer daño a otras personas, abuso, emergencias médicas y señales de que quien escribe pueda ser menor de 18 años.
La app también busca palabras de crisis en su iPhone. Antes de que usted dé su consentimiento, esta es la única comprobación, y la app no envía nada.
2. Derivar
Cuando la comprobación encuentra señales claras de riesgo, la app muestra una tarjeta junto con la respuesta de Soyo. Algunos ejemplos son los pensamientos activos de suicidio o autolesión, el abuso y las emergencias médicas. La tarjeta ofrece líneas de ayuda de su región y su número de emergencias local.
Antes de que usted dé su consentimiento, la tarjeta también aparece: la app encuentra las palabras de crisis en su iPhone y muestra allí un mensaje fijo y líneas de ayuda. Las líneas de ayuda nunca forman parte de Soyo Pro ni de ninguna otra función de pago.
3. Responder con seguridad
En el nivel de riesgo más alto, Soyo no usa el modelo de IA. Envía un mensaje fijo que redactamos de antemano. El mensaje le anima a contactar ahora con las líneas de ayuda o con los servicios de emergencia.
En otros niveles elevados, nuestro servidor indica al modelo que su respuesta sea breve y cálida, y que le pregunte directamente si está a salvo. El modelo solo puede mencionar las líneas de ayuda de la tarjeta, y ningún otro número.
Las instrucciones de Soyo prohíben al modelo dar detalles sobre métodos, dosis o medios de suicidio, autolesión o violencia, también en historias o juegos. También le prohíben describir el suicidio como una solución o un alivio. Soyo descarta los recuerdos sugeridos sobre suicidio o autolesión.
4. No bloquear nunca la ayuda
El límite diario de mensajes gratuitos nunca impide un mensaje de crisis, el mensaje fijo ni las líneas de ayuda. Tampoco detiene una conversación en la que Soyo vio señales claras de angustia. Los límites de frecuencia de nuestro servidor nunca impiden una respuesta de crisis: si un dispositivo ha enviado demasiadas peticiones y su mensaje más reciente contiene palabras de crisis, el servidor envía igualmente el mensaje fijo y las líneas de ayuda.
5. Mantener correctas las líneas de ayuda
Mantenemos nuestra propia lista de líneas de ayuda. El modelo de IA nunca se inventa un número de teléfono. La app tiene su propia copia de la lista, así que «Hablar con una persona» funciona sin nuestro servidor. Revisamos la lista al menos una vez por trimestre y antes de lanzar Soyo en un país nuevo.
Limitaciones
Las comprobaciones automáticas pueden pasar por alto un riesgo o señalarlo por error. Ninguna persona supervisa las conversaciones. Soyo no puede llamar a los servicios de emergencia por usted.
Nuestra Política de privacidad explica qué tratan las comprobaciones de seguridad. Nuestros Términos de uso explican qué es Soyo y qué no es.
La IA y los menores
Soyo es una IA. La app se lo indica la primera vez que la abre. Soyo es para personas adultas de 18 años o más. Es posible que los chatbots de compañía no sean adecuados para algunos menores.
Si las comprobaciones indican que una persona podría ser menor de 18 años, Soyo mantiene sus respuestas adecuadas para un menor y evita el contenido romántico o sexual. También anima a esa persona a hablar con un adulto de su confianza, como un docente, un orientador escolar o un familiar con quien se sienta a salvo.