NUEVA YORK — Lanzar una herramienta de inteligencia artificial para tomar notas y resumir información importante de una reunión virtual puede resultar atractivo. Segundos después de que uno de los agentes asista a una videoconferencia de una hora, puede ofrecer un resumen de los puntos clave y delinear una lista de tareas pendientes para todos los participantes.
Pero la forma en que los anotadores de IA populares realizan esas tareas hace que algunas personas eviten usarlos. La tecnología convierte en datos todo lo que se dice durante las reuniones. Información confidencial sobre el personal, estrategias corporativas, secretos comerciales y comentarios que luego podrían considerarse incriminatorios: todo ello podría terminar en las manos equivocadas.
«Existen enormes riesgos para la organización con los anotadores de IA», dijo Amy Dufrane, directora ejecutiva del proveedor de certificación y capacitación de recursos humanos HRCI. «No creo que las empresas deban utilizarlo en absoluto».
Un anotador de IA es una aplicación o dispositivo de software que utiliza inteligencia artificial, reconocimiento de voz y grandes modelos de lenguaje para grabar, transcribir y resumir conversaciones. Las herramientas están destinadas a ahorrar tiempo y mejorar la participación, pero los profesionales de varios campos dicen que hay motivos para ser cautelosos.
El principal de ellos es la incertidumbre sobre dónde se almacenan los datos recopilados y durante cuánto tiempo. Los defensores de la privacidad temen que las empresas detrás de los anotadores de IA estén creando huellas de voz sin consentimiento. Las huellas de voz, un tipo de perfil biométrico similar a una huella digital pero sintonizado con las entonaciones y características únicas de la voz, se pueden utilizar para acceder a información restringida o confidencial, incluido el contenido de las cuentas bancarias.
Algunas empresas de tecnología revenden datos de las herramientas para tomar notas que crearon o utilizan transcripciones y grabaciones confidenciales de reuniones para entrenar sus modelos de IA. También existe el riesgo de que las conversaciones entre un abogado y un cliente se conviertan en un blanco legítimo en los procedimientos legales; En febrero, un juez federal de Nueva York ordenó a un acusado penal que proporcionara a los fiscales los documentos que creó para sus abogados porque ya habían sido compartidos con un tercero, que era Claude de Anthropic.
«Las personas que utilizan anotadores de IA no siempre saben a dónde van los datos», dijo Justin Daniels, abogado corporativo con sede en Atlanta del bufete de abogados Baker Donelson. «Y en mi contexto, si los datos van a otra parte y no son conscientes de ello, es posible que esa conversación privilegiada entre abogado y cliente ya no sea privilegiada».
A continuación se ofrecen algunos consejos sobre la etiqueta de expulsar a un anotador de IA de una reunión, los riesgos de utilizar uno y cómo protegerse.
Cuando se una a una reunión, acostúmbrese a comprobar si hay presente un tomador de notas de IA. Puede aparecer como un asistente a una reunión, a menudo etiquetado como un tomador de notas de IA, o como un mensaje emergente en la pantalla que informa a los participantes que se está grabando la reunión. Esto último podría indicar la presencia de un tomador de notas de IA.
Las plataformas de reuniones virtuales como Zoom y Google Meet permiten a los usuarios saber cuándo se está realizando la grabación, pero algunos software de reuniones no dejan claro cuándo está presente alguien que toma notas, según Thorin Klosowski, analista senior de seguridad y privacidad de Electronic Frontier Foundation.
Los participantes también pueden usar dispositivos personales para tomar notas que están separados de la plataforma de la reunión, en cuyo caso los demás asistentes no necesariamente sabrían que se está grabando y transcribiendo una discusión.
«Uno espera que la otra persona le diga que está haciendo eso», dijo Klosowski. «Pedir el consentimiento de todos antes de celebrar una reunión delicada sería el enfoque más educado».
Si no está seguro de si alguien ha implementado un anotador de IA, puede preguntar. También puede indicar al principio que una reunión no está autorizada para grabar.
Una forma educada de establecer ese límite es decir: «Nuestra política de empresa es que esta reunión no puede grabarse», sugirió Dufrane. Esto libera al empleado, como un vendedor que quiere dar una buena impresión, de tener que ser el «malo», dejando la responsabilidad en la empresa, dijo.
Otra opción es permitir que el tomador de notas participe en parte de la reunión, pero desactivarlo al final para dedicar tiempo a temas más delicados.
«No empezaré a hablar de nada sustancial hasta que se cierre, porque simplemente no quiero correr el riesgo», dijo Daniels.
Muchos tomadores de notas de IA determinan firmas acústicas únicas, o huellas de voz, para cada orador en la sala, dijo Chris Pluymers, abogado asociado de The Dillon Law Group en East Lansing, Michigan. Así es como las empresas distinguen a un orador de otro, etiquetándolos con los apodos de «Orador 1» o «Orador 2».
Una forma de utilizar las huellas de voz es verificar las identidades de los titulares de cuentas bancarias por teléfono. Si los malos actores consiguen la firma vocal de una persona, podrían usarla para acceder a archivos, cometer fraude o apoderarse de cuentas, dijo.
Las leyes en algunos estados regulan cómo se pueden crear y almacenar huellas de voz y otorgan derechos que las personas pueden hacer valer para oponerse al uso de un anotador de IA durante las reuniones a las que asisten.
En Illinois, las huellas de voz se consideran identificadores biométricos, similares a las huellas dactilares, y están cubiertas por la Ley de Privacidad de la Información Biométrica del estado, que requiere notificación por escrito y consentimiento informado antes de que un tomador de notas de IA u otro agente recopile huellas de voz. La ley también exige un cronograma documentado de retención de datos y una política de destrucción, dijo Pluymers. Pero la mayoría de las empresas que utilizan estas herramientas no cuentan con ninguno de esos sistemas, afirmó Pluymers.
«En el mundo de la IA, el mundo de los datos y la privacidad, el mundo de la identificación biométrica, no creo que se pueda tener un enfoque tan laxo», dijo Pluymers. «Creo que salir adelante es crucial».
Según la ley de Illinois, los empleados pueden decir que no quieren asistir a una reunión con un tomador de notas de IA hasta que tengan garantías de dónde y por qué se almacenan los datos, y cuándo se eliminarán, dijo Pluymers. También pueden preguntar si existe una política y un formulario de consentimiento por escrito para firmar.
Si un tomador de notas de IA aparece inesperadamente en una reunión, un participante podría decir: «Prefiero que mantengamos esta reunión sin herramientas de grabación o transcripción de IA y estaré encantado de tomar mis propias notas y compartir un resumen si eso es útil», sugirió Pluymers. «Simplemente sea cálido y genuino al respecto y pídales que respeten sus deseos».
Cuando trabaje con aplicaciones de toma de notas de IA, averigüe si las empresas que las crearon conservan grabaciones, transcripciones o metadatos indefinidamente o los utilizan para entrenar modelos de IA, dijo Danielle Kays, socia de Fisher Phillips que representa a empresas en cuestiones de privacidad y derecho laboral.
«Si hay algún tipo de identificación del hablante o reconocimiento de voz, comprenda realmente qué es y cómo funciona», dijo Kays.
Incluso cuando se elimina el contenido, los metadatos sobre las reuniones pueden permanecer almacenados con el proveedor, lo que significa que la información comercial confidencial podría influir en el comportamiento del modelo y, en algunos casos, podría memorizarse o reproducirse, dijo.
Los anotadores de IA generan texto, y eso es más fácil de buscar para personas externas que archivos de video o audio, según EFF.
«Almacenar una gran cantidad de vídeos no es fácil, es costoso y difícil de revisar, pero el texto es mucho más fácil de buscar y más barato de almacenar», dijo Klosowski de la Electronic Frontier Foundation.
___
Comparta sus historias y preguntas sobre el bienestar en el lugar de trabajo en cbussewitz@ap.org. Siga la cobertura Be Well de AP, que se centra en el bienestar, el fitness, la dieta y la salud mental en https://apnews.com/hub/be-well
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
