En un contexto donde la inteligencia artificial forma parte de la vida cotidiana de los jóvenes, la seguridad y la salud mental digital se convirtieron en temas prioritarios. La compañía tecnológica Meta anunció el lanzamiento de un mecanismo de detección temprana dentro de su asistente Meta AI, diseñado para notificar de manera directa a los padres cuando un usuario adolescente mantenga conversaciones relacionadas con el suicidio o las autolesiones.

La medida está integrada al sistema de supervisión parental de Instagram. Cuando la tecnología detecte referencias directas o sutiles sobre conductas de riesgo, enviará un aviso inmediato a los tutores a cargo de la cuenta. Además de la alerta, la plataforma proveerá herramientas y guías desarrolladas por profesionales para acompañar a las familias sobre cómo abordar estas situaciones críticas.

Evaluación humana previa y contacto con emergencias

Para prevenir errores de interpretación del sistema automatizado, Meta implementó una instancia de revisión manual: especialistas analizan el contexto del diálogo clasificado como sensible antes de emitir la notificación. La empresa aclaró que, ante la ambigüedad de ciertas frases, es posible que los padres reciban avisos en situaciones que finalmente no representen un peligro real, priorizando la prevención.

Paralelamente, la firma de Mark Zuckerberg avanza en el desarrollo de una función complementaria para conectar automáticamente a los usuarios con servicios de emergencia médica en caso de detectar un peligro inminente de vida. En este proyecto participaron más de 75 profesionales clínicos de la salud mental, quienes revisaron las respuestas del asistente para garantizar que el tono sea empático, adecuado para la edad y enfocado en la contención.

Esta actualización amplía también los filtros de contenido para menores de 18 años, restringiendo solicitudes de carácter romántico, sexual o referidas a la elaboración de sustancias nocivas. La función de alertas ya comenzó a desplegarse en países como Estados Unidos, Reino Unido, Canadá y Australia, y se extenderá de forma global a todos los usuarios hacia fines de este año.

💡 Lo que tenés que saber

• Nueva alerta parental: Meta AI avisará directamente a las cuentas vinculadas a la supervisión familiar si un adolescente conversa sobre suicidio o autolesiones.
• Revisión de contexto: Cada caso detectado pasa por una evaluación humana antes de enviar el aviso a los padres para minimizar falsos positivos.
• Recursos de ayuda: Junto a la notificación, Meta entregará guías elaboradas por expertos en salud mental para orientar a las familias sobre cómo actuar.
• Avance en emergencias: La compañía trabaja en una herramienta para contactar a servicios de urgencia en situaciones de riesgo inminente.
• Llegada global: El sistema ya funciona en mercados anglosajones y estará disponible para el resto del mundo a finales de este año.