En los distritos escolares de Houston, en Texas, las autoridades educativas comenzaron a utilizar este año aplicaciones de inteligencia artificial para vigilar lo que escriben y buscan los estudiantes. El objetivo principal es detectar palabras, frases y patrones de búsqueda que podrían llevar a una alerta por salud mental. No obstante, la medida atrajo la crítica de padres y expertos que advierten que pone en peligro la privacidad.

El objetivo de vigilar a los estudiantes en Texas

Durante los últimos años, los distritos escolares en Texas mantuvieron una vigilancia sobre la actividad de los estudiantes en los dispositivos proporcionados por la escuela. Esto se realizaba principalmente a través de filtros de búsqueda, listas de sitios bloqueados y sistemas de administración de dispositivos. Desde el 2025, el monitoreo incorporó a la inteligencia artificial como herramienta innovadora.

Recientemente, algunos distritos escolares del área de Houston confirmaron a FOX que utilizan herramientas de monitoreo impulsadas por IA para seguir de cerca la actividad en los dispositivos que entregan las autoridades educativas.

La ley vigente obliga a las escuelas a garantizar un uso seguro de internet a través de filtros en línea. Con la IA, el motivo detrás de la vigilancia consiste en abordar problemas de salud mental, una crisis acuciante entre los jóvenes, principalmente en la jurisdicción.

Según un estudio de la Universidad de Rice, los estudiantes del área de Houston tienen mayor riesgo de intentar suicidarse que otros estudiantes en Estados Unidos.

Qué distritos escolares en Texas usan IA para leer lo que escriben y buscan los estudiantes

Para actuar sobre esta problemática, el distrito de Fort Bend aprobó la compra del software GoGuardian en julio, informó Houston Chronicle. Esta herramienta trabaja mediante el aprendizaje automático para identificar actividades que puedan indicar autolesiones o problemas de seguridad.

Otros distritos del área de Houston que usan los sistemas GoGuardian o Lightspeed incluyen Aldine, Cypress-Fairbanks, Galveston, Humble, Katy y Klein.

GoGuardian, según su página web oficial, se apoya en la IA para escanear documentos, imágenes, aplicaciones y sitios en busca de cualquier comportamiento relevante. Lightspeed Systems también utiliza especialistas capacitados en seguridad humana para reducir las falsas alertas.

El distrito escolar de Fort Bend sostuvo que GoGuardian ayuda a evitar que los estudiantes se expongan a contenidos inseguros o no educativos “mediante el monitoreo de la actividad en tiempo real y la prevención de esas soluciones a nivel del dispositivo”.

Por su parte, otras escuelas del área emplean herramientas de este software que no incluyen señales de advertencia de salud mental. Un ejemplo es Cy-Fair ISD, que solo aplica Lightspeed para ver qué aplicaciones informáticas usan los estudiantes.

Las críticas al uso de IA para vigilar a los estudiantes de Texas

Mientras los estudiantes son monitoreados al asistir a clases, los padres no tienen la oportunidad de dar su consentimiento. Al difundirse la noticia sobre el uso de IA para vigilar a los menores, se sembró un interrogante sobre la forma en que esta acción afecta la privacidad.

En diálogo con FOX, Rania Mankarios, directora ejecutiva de Crime Stoppers en Houston, sostuvo que incluso si el objetivo es la seguridad, la privacidad aun debe tratarse con cuidado. Esto es especialmente importante porque las personas que son monitoreadas son niños.

“Con la privacidad debemos ser cuidadosos porque tratamos con niños”, resaltó Mankarios al respecto.

A su vez, expertos citados por Houston Chronicle señalan que las herramientas de la IA a menudo identifican erróneamente las búsquedas en línea inofensivas de los estudiantes como un comportamiento peligroso.