En Estados Unidos de América el número de suicidios y lesiones entre los estudiantes está aumentando exponencialmente; por ello, algunas escuelas han decido recurrir a la tecnología para monitorear la salud mental de sus alumnos. Dentro de las soluciones que se están empleando se encuentra la inteligencia artificial (IA).
LEE: ¿INTELIGENCIA ARTIFICIAL PREDICE DESASTRES NATURALES?
Se utiliza una aplicación denominada GoGuardian, que es un software diseñado por las escuelas para controlar los estudios de los alumnos, bloqueando el acceso a ciertos sitios de Internet.
No obstante, ahora también implementan un sistema de IA que supervisa a los estudiantes y su comportamiento en línea para detectar signos de angustia, algo que se espera que pueda ayudar a disminuir la tasa de suicidios.
Lo anterior, se basa en que los alumnos buscan en Internet la respuesta a los problemas que puedan tener, una tendencia que lleva años registrándose. Al hacer una consulta, los estudiantes crean patrones de comportamiento en línea que pueden servir para identificar posibles problemas y usarse para ayudarles antes de cualquier eventualidad.
GoGuardian era una aplicación destinada a impedir que los alumnos ingresaran a páginas web en particular. Sin embargo, ahora tiene una función mucho más vital. En un inicio, se generó un sistema que detectase el empleo de una serie de palabras clave para detectar el comportamiento de las personas. Pero al producirse miles de alertas innecesarias, la empresa que sustenta la aplicación se decantó por técnicas de IA.
Los datos son analizados por un algoritmo de machine learning que ha sido entrenado por expertos en salud mental. Con ello, se asegura que el sistema es capaz de identificar el contenido más estrechamente vinculado con la posibilidad de que un alumno se haga daño, como lo es búsquedas sobre métodos de suicidio.
Con la detección automática y un algoritmo para señalar casos sensibles, se mandan correos con alertas a los centros. Según la app, se gestionan dos mil alertas correspondientes a cinco millones de estudiantes, y todas ellas son emitidas en segundos.
Los informes incluyen datos sobre en dónde están navegando los alumnos cinco minutos antes o después de que el sistema detecte el incidente. Por ello, la decisión final de si actuar y cómo recae sobre los empleados del centro que lo supervisan todo y quienes tienen un contexto para saber cómo se han efectuado las búsquedas.
Todavía no hay datos precisos que demuestren cuán eficaces son estos métodos y existen muchos cuestionamientos respecto a la transparencia de estas empresas que se dedican a monitorear personas. Continuando el debate sobre la positivo de la vigilancia y supervisión evita problemas.
