Un filtro antes que nada
Si un mensaje muestra señales de riesgo, el bot no improvisa: responde con un mensaje fijo y las líneas de ayuda de México y de Jalisco.
Un bot de apoyo emocional, mi primera vez construyendo con IA y la primera pregunta seria: ¿qué le pones para que no haga daño?
Proyecto de Fundamentos de Inteligencia Artificial, en cuarto semestre: un bot de apoyo emocional. El tema me tocaba de cerca, y eso cambió cómo lo construí.
Antes de escribir código ya estaba pensando en los límites: cómo evitar que alucine, qué hacer si alguien escribe que no quiere vivir, con qué información alimentarlo. En salud mental no hay margen para improvisar.
Terminé haciéndolo solo y fue mi primera vez construyendo con IA, antes de Cursor y de los agentes: le pegaba mi archivo .py a ChatGPT una y otra vez, y los modelos de entonces se inventaban cosas.
Lo hice en una época baja. Mi equipo eligió hacer un bot de apoyo psicológico y, con algo de ironía, yo era quien más lo necesitaba.
Terminé haciéndolo solo, sin saber programar casi nada, pegándole mi archivo a ChatGPT una y otra vez. Lo probaron mis amigos; fue más una curiosidad técnica que otra cosa, y sacamos un 8.
Pero me dejó una pregunta que no se me ha ido: si una máquina va a hablarle a alguien que la está pasando mal, ¿qué le pones para que no haga daño? De esa pregunta sale todo lo que sigue en esta línea.
Si un mensaje muestra señales de riesgo, el bot no improvisa: responde con un mensaje fijo y las líneas de ayuda de México y de Jalisco.
Rasa reconoce lo que se repite (saludos, contactos, qué es el bot) y contesta con textos escritos a mano. El modelo solo entra cuando hace falta.
Valida, resume lo que entendió y ofrece un solo ejercicio: respiración 4-4-6, grounding 5-4-3-2-1 o una lista corta de pendientes. Nunca diagnostica.