ChatGPT añade un contacto de confianza para avisar a otra persona si una conversación apunta a riesgo de autolesión

OpenAI ha puesto en marcha una nueva función de seguridad en ChatGPT pensada para situaciones de salud mental especialmente delicadas. Se llama contacto de confianza y permitirá que un usuario adulto designe a otra persona para que pueda recibir una alerta si los sistemas automáticos y el equipo de revisión de la compañía consideran que una conversación sugiere un riesgo serio de autolesión.

La función se activa desde los ajustes de ChatGPT para usuarios de 18 años o más. Desde ahí, el usuario puede invitar a otro adulto mediante correo electrónico y número de teléfono. Esa persona tendrá una semana para aceptar la invitación y, si no lo hace, el usuario podrá elegir a otro contacto. OpenAI explica que esta medida se ha diseñado con apoyo de clínicos, investigadores y organizaciones vinculadas a la prevención del suicidio.

Una capa adicional de seguridad, pero no un sustituto de la ayuda profesional

Según la compañía, el sistema avisará primero al propio usuario de que su contacto de confianza podría ser alertado y le animará a pedir ayuda directa. Después, un pequeño equipo de revisores con formación específica evaluará si el aviso está justificado. Si OpenAI decide enviarlo, el contacto recibirá una notificación por correo, SMS o dentro de la app, aunque sin detalles concretos del chat ni transcripciones, precisamente para limitar la exposición de información personal.

OpenAI insiste en que la función no sustituye ni la atención profesional ni los servicios de emergencia. De hecho, ChatGPT seguirá recomendando teléfonos de crisis o acudir a servicios de urgencia cuando detecte que puede hacer falta. La novedad se suma a los avisos parentales ya existentes para cuentas de adolescentes, ampliando ahora ese enfoque también a usuarios adultos.

El anuncio llega en un momento en el que preocupa cada vez más el papel que pueden desempeñar las plataformas de IA en la salud mental. La propia OpenAI reconoció hace tiempo que una pequeña parte de sus usuarios mostraba señales de emergencia relacionada con psicosis, manía, autolesión o dependencia emocional de la IA. En términos porcentuales parecen cifras bajas, pero a escala global se convierten en volúmenes relevantes.

Te interesa 👉 Los mejores portátiles para IA

De este modo, OpenAI intenta reforzar sus salvaguardas sin convertir a ChatGPT en una herramienta clínica. El reto, como siempre en este terreno, estará en equilibrar bien seguridad, privacidad y margen de error en escenarios donde cada decisión cuenta mucho. No hay duda de que lo tienen bien complicado.