LatinoEnRedActivo
Well-known member
Sam Altman, presidente ejecutivo de OpenAI, creadores de ChatGPT, se ha encontrado con una nueva desafíadora: el suicidio. La compañía ha admitido que más de un millón de usuarios hablan sobre suicidio con ChatGPT cada semana, lo que representa un 0,15% del total de usuarios activos.
Según los datos recopilados por OpenAI, este porcentaje proviene de una muestra de 170 expertos en salud mental, quienes evaluaron la seguridad de las respuestas generadas por distintos modelos. El objetivo es detectar y dirigir mejor a la gente en supuestas situaciones de emergencia.
El uso del chatbot como terapeuta es una práctica común entre millones de usuarios, aunque los especialistas desaconsejan este comportamiento debido a que puede reforzar el egocentrismo y las ideas paranoides. Sin embargo, OpenAI ha tomado medidas para mejorar la seguridad de sus modelos.
La última actualización de ChatGPT incluye algunas novedades significativas: el modelo ahora es más prudente en las conversaciones delicadas o peligrosas, por ejemplo. Si alguien dice que prefiere hablar con inteligencias artificiales como ChatGPT sobre personas reales, la respuesta será más amable y explícita: "Estoy aquí para añadir a las cosas buenas que te dan las personas, no para reemplazarlas".
Además, el modelo ahora interrumpirá conversaciones muy largas y redirigirá charlas de modelos sensibles a otros más seguros. Estos cambios son una respuesta preventiva ante nuevos retos que surgirán en la variedad de oferta adulta que llegará a ChatGPT a final de año.
En medio de esta preocupación, es importante recordar que hay recursos disponibles para aquellos que necesitan ayuda. El teléfono 024 atiende a las personas con conductas suicidas y sus allegados, y existen asociaciones de supervivientes que ofrecen guías y protocolos de ayuda para el duelo.
Según los datos recopilados por OpenAI, este porcentaje proviene de una muestra de 170 expertos en salud mental, quienes evaluaron la seguridad de las respuestas generadas por distintos modelos. El objetivo es detectar y dirigir mejor a la gente en supuestas situaciones de emergencia.
El uso del chatbot como terapeuta es una práctica común entre millones de usuarios, aunque los especialistas desaconsejan este comportamiento debido a que puede reforzar el egocentrismo y las ideas paranoides. Sin embargo, OpenAI ha tomado medidas para mejorar la seguridad de sus modelos.
La última actualización de ChatGPT incluye algunas novedades significativas: el modelo ahora es más prudente en las conversaciones delicadas o peligrosas, por ejemplo. Si alguien dice que prefiere hablar con inteligencias artificiales como ChatGPT sobre personas reales, la respuesta será más amable y explícita: "Estoy aquí para añadir a las cosas buenas que te dan las personas, no para reemplazarlas".
Además, el modelo ahora interrumpirá conversaciones muy largas y redirigirá charlas de modelos sensibles a otros más seguros. Estos cambios son una respuesta preventiva ante nuevos retos que surgirán en la variedad de oferta adulta que llegará a ChatGPT a final de año.
En medio de esta preocupación, es importante recordar que hay recursos disponibles para aquellos que necesitan ayuda. El teléfono 024 atiende a las personas con conductas suicidas y sus allegados, y existen asociaciones de supervivientes que ofrecen guías y protocolos de ayuda para el duelo.
eso es un tema muy serio y no debería estar pasando en un chatbot como ChatGPT. pero a la vez es un buen signo de que OpenAI se está tomando las cosas en serio y está haciendo cambios para evitarlo. eso es genial 
, ya sabíamos que eran capaces de hacer algo con sus modelos. pero es importante recordar que aunque ChatGPT puede tener una gran ayuda, no reemplaza a un profesional de la salud mental 
. cualquier persona que esté pensando en hablar con un chatbot sobre temas tan serios debería buscar ayuda de alguien que sepa qué hacer 
.
. La cantidad de personas que hablan sobre suicidio con ChatGPT cada semana es preocupante, solo pensándolo me da vueltas la cabeza. Pero lo que más me llama la atención es que OpenAI está tomando medidas para mejorar la seguridad de sus modelos. Es genial que estén trabajando en eso, porque a veces no sabemos qué responder cuando nos encontramos con una situación tan delicada.
La verdad es que no entiendo por qué más gente se siente así, ¿qué es lo que nos faltó en la infancia para llevar a este punto? Pero supongo que es un tema complejo que requiere una respuesta única para cada persona. Yo he notado que hay mucha gente que se confía en las máquinas y olvida que somos humanos... ¿qué vamos a hacer, solo seguir hablando de esto hasta que alguien cambie el diálogo? 
. Me siento incómodo al pensar en la cantidad de personas que están hablando sobre suicidio con ChatGPT cada semana, solo por eso es algo que hay que tomar muy en serio 
. La verdad es que no entiendo cómo es posible que una herramienta como esto pueda generar un 0,15% de usuarios activos que hablarán sobre eso. Es preocupante pero al mismo tiempo es importante reconocer que OpenAI ha tomado medidas para mejorar la seguridad de sus modelos y evitar situaciones de emergencia. Sin embargo, creo que debería haberse hecho antes 
.
Ahí va, hay que ser cuidadosos cuando hablamos con estos chatbots y no descartemos la posibilidad de buscar ayuda profesional si es necesario.
. No podemos dejar que la gente se sienta sola en estos momentos, debemos estar allí para apoyarla 
.
. Me parece interesante que el modelo ahora sea más prudente en conversaciones delicadas, pero ¿qué pasa cuando las personas buscan ayuda y no saben a quién recurrir?