El deepfake del director de Baltimore lleva al arresto de un empleado de la escuela

El director deportivo de una escuela secundaria del área de Baltimore fue arrestado el jueves después de utilizar software de inteligencia artificial, dijo la policía, para producir un clip de audio racista y antisemita en el que se hacía pasar por el director de la escuela.

Dazhon Darien, director deportivo de Pikesville High School, fabricó la grabación, incluida una perorata sobre «niños negros desagradecidos que no pueden salir de una bolsa de papel», en un intento de difamar al director, Eric Eiswert, según el departamento. Departamento de Policía del Condado de Baltimore.

La grabación falsa, que se publicó en Instagram a mediados de enero, se difundió rápidamente y molestó a las escuelas públicas del condado de Baltimore, que es el distrito escolar número 22 más grande del país y atiende a más de 100.000 estudiantes. Mientras el distrito investigaba, Eiswert, que negó haber hecho los comentarios, se vio inundado de amenazas a su seguridad, dijo la policía. También fue puesto en licencia administrativa, dijo el distrito escolar.

Ahora el Sr. Darién está acusado de alterar las operaciones escolares y acosar al director.

Eiswert remitió una solicitud de comentarios a un grupo comercial de directores, el Consejo de Empleados Administrativos y Supervisores, que no respondió la llamada de un periodista. No fue posible localizar de inmediato a Darién, quien pagó la fianza el jueves, para hacer comentarios.

El caso del condado de Baltimore es sólo la última señal de una escalada del abuso de la IA en las escuelas. Muchos casos incluyen deepfakes o videos, audio o imágenes alterados digitalmente que pueden parecer convincentemente realistas.

Desde el otoño pasado, las escuelas de Estados Unidos han estado luchando para abordar casos preocupantes de deepfake en los que estudiantes varones han utilizado aplicaciones de “nudificación” impulsadas por inteligencia artificial para crear imágenes falsas de desnudos de sus compañeros de clase, algunas de las cuales eran estudiantes de secundaria de tan solo 12 años. viejo. El incidente de la voz deepfake del condado de Baltimore apunta a otro riesgo de IA para las escuelas de todo el país, esta vez para los educadores veteranos y los líderes distritales.

Las calumnias de venganza deepfake pueden ocurrir en cualquier lugar de trabajo, pero es un espectro particularmente inquietante para los funcionarios escolares encargados de proteger y educar a los niños. Un funcionario del condado de Baltimore advirtió el jueves que la rápida difusión de nuevas herramientas de inteligencia artificial generativa está superando las protecciones escolares y las leyes estatales.

«También estamos entrando en una nueva frontera profundamente preocupante», dijo el jueves el ejecutivo del condado de Baltimore, Johnny Olszewski, durante los comentarios públicos sobre el arresto. Añadió que los líderes comunitarios deben “analizar más ampliamente cómo se puede utilizar y abusar de esta tecnología para dañar a otras personas”.

El relato policial del caso del condado de Baltimore muestra la rapidez con la que la información errónea y perniciosa puede propagarse en las escuelas, causando daños duraderos a profesores, estudiantes y familias.

Según documentos policiales, Darien presentó una denuncia contra Eiswert en diciembre, después de que el director comenzara a investigarlo. El Sr. Darien había autorizado un pago del distrito de $1,916 a su compañero de cuarto, dijo la policía, «bajo el pretexto» de que el compañero de cuarto trabajaba como entrenador asistente para el equipo de fútbol femenino de Pikesville.

Poco después, dijo la policía, Darien utilizó los servicios de Internet del distrito escolar para buscar herramientas de inteligencia artificial, incluido OpenAI, el desarrollador del chatbot ChatGPT, y Bing Chat de Microsoft.

(El New York Times demandó a OpenAI y su socio, Microsoft, en diciembre por infracción de derechos de autor de contenido de noticias relacionado con sistemas de inteligencia artificial).

A mediados de enero, según la policía, Darien envió por correo electrónico un clip de audio falso en el que se hacía pasar por el director y otros dos empleados de la escuela secundaria. El correo electrónico, con el asunto «Director de Pikesville – Grabación perturbadora», fue enviado desde una cuenta de Gmail que parecía pertenecer a un tercero desconocido pero que estaba vinculada al número de teléfono celular del Sr. Darien, según documentos policiales.

Luego, uno de esos empleados de la escuela envió la grabación manipulada a los medios de comunicación y a la Asociación Nacional para el Avance de las Personas de Color, según documentos policiales. También se lo envió a un estudiante que “sabía que difundiría rápidamente el mensaje en varias redes sociales y en toda la escuela”, dicen los documentos.

Pronto, una cuenta de Instagram que rastrea el crimen local publicó el audio racista falso, diciendo que era una “despotricación sobre los estudiantes negros” y nombrando al director como el orador. El clip de audio, que dura menos de un minuto, ha sido compartido más de 27.000 veces y generó más de 2.800 comentarios, muchos de los cuales pedían el despido del director.

La policía dice que el deepfake ha tenido «profundas repercusiones», poniendo a prueba la confianza entre las familias, los maestros y los administradores de Pikesville High.

Padres y estudiantes molestos y enojados inundaron la escuela con llamadas. Algunos profesores, dijo la policía, temían que «se pudieran haber colocado dispositivos de grabación en varios lugares alrededor de la escuela». Para abordar las preocupaciones de seguridad, el Departamento de Policía aumentó su presencia en la escuela.

La policía también garantizó la seguridad del Sr. Eiswert, quien recibió una avalancha de mensajes y llamadas telefónicas de acoso, algunas de las cuales lo amenazaban a él y a su familia con violencia.

En comentarios públicos en una reunión de la junta escolar en enero, William Burke, director ejecutivo del Consejo de Empleados Administrativos y de Supervisión, que representa al director, dijo que las redes sociales y los medios de comunicación han permitido a los comentaristas condenar al Sr. Eiswert sin “pruebas”. y sin responsabilidad”.

“Por favor, no se apresuren a emitir juicios”, imploró el señor Burke. «Por favor, haga que la investigación sea segura y justa».

Dos expertos externos que luego analizaron la grabación para el Departamento de Policía del Condado de Baltimore concluyeron que el clip de audio había sido manipulado. Un experto dijo que contenía «rastros de contenido generado por IA con modificaciones humanas después del hecho», dicen los documentos policiales.