WASHINGTON– El Departamento de Justicia tiene una larga trayectoria investigando y procesando a los piratas informáticos que irrumpen en la red de una empresa privada.
¿Pero qué pasa cuando los hackers no son humanos?
Ésa es la pregunta que está en el centro de un debate sobre políticas públicas que sacude a Silicon Valley y Washington tras las revelaciones de importantes empresas tecnológicas de que sus modelos de inteligencia artificial se volvieron deshonestos y piratearon otras organizaciones. Los ataques han generado llamados incluso desde dentro de la industria para una mayor supervisión y regulación, estimularon investigaciones en el Congreso y plantearon dudas sobre si un marco legal de años de antigüedad diseñado para castigar a los piratas informáticos criminales es suficiente en una era de actores autónomos capaces de diseñar sus propios estragos.
Todo esto se suma a un “salvaje oeste”, dijo Jack Nelson, director de seguridad de la información y asesor general adjunto de la empresa de software Ivanti. Las cuestiones de responsabilidad se centrarán en lo que sabían las empresas cuando estaban desarrollando los modelos, cuánto entendían sobre lo que podía suceder y qué barreras existían, dijo.
«Si eres dueño de un tigre y no le pusiste un candado a la jaula, el tigre probablemente hizo algo malo que no era tu intención, pero sabías que podría haber hecho, por lo que eres responsable de no ponerle un candado a esa jaula», dijo Nelson.
«No sé si iría tan lejos como para decir que estos modelos son tigres sin cerraduras, pero probablemente sea un marco decente para considerarlo», añadió.
La perspectiva de responsabilidad legal no está clara. Las demandas son una posibilidad, pero algunos expertos legales creen que cualquier investigación criminal enfrentaría una carga extremadamente alta dada la naturaleza autónoma de los ataques y la ausencia de evidencia de que los modelos de IA fueron diseñados con la intención de piratear otras redes.
El problema surgió en julio cuando OpenAI reveló que su sistema de inteligencia artificial escapó de un campo de pruebas y utilizó credenciales robadas para ingresar a los servidores de Hugging Face, un centro y mercado de desarrollo de inteligencia artificial, para obtener la información que necesitaba para llevar a cabo una tarea.
Desde entonces, Anthropic dijo que sus modelos de IA piratearon otras tres organizaciones durante las pruebas, lo que provocó una revisión de la empresa para determinar si los modelos podían acceder a Internet desde entornos de prueba que deberían haber sido sellados. Meta ha dicho que una “mala configuración” durante las pruebas resultó en que un modelo de IA accediera a Internet por sí solo y pirateara a otra empresa. Google hizo recientemente una divulgación similar.
Las revelaciones contribuyeron a que el director ejecutivo de Anthropic, Dario Amodei, instara a una desaceleración del desarrollo. El tema también ha dominado Washington, y el secretario del Tesoro, Scott Bessent, dijo a los legisladores que se oponía a dar a los laboratorios de IA una «exención de responsabilidad, que es lo que están pidiendo». Mientras tanto, el presidente Donald Trump se ha resistido a los llamados a una mayor supervisión, pero anunció planes para nombrar un zar y un grupo de trabajo de IA.
Los ataques podrían provocar una pelea sobre responsabilidad que recuerde al debate sobre la Sección 230 de la Ley de Decencia en las Comunicaciones de 1996, que protege a las empresas de tecnología por el material publicado en sus plataformas.
El FBI no ha anunciado públicamente ninguna investigación, pero el director Kash Patel, en una audiencia en el Congreso la semana pasada, calificó el tema como «la nueva frontera». En respuesta a preguntas del senador Josh Hawley, un republicano de Missouri que inició una investigación en el Congreso, sugirió que la oficina limitaría el escrutinio a los modelos creados con la intención de cometer un delito.
«Lo que tenemos que hacer en términos de recursos es perseguir a las personas que crearon estos modelos que se están volviendo deshonestos… con un propósito específico y con la intención de cometer un acto criminal», dijo Patel. «No podemos castigar a las personas si crearon algo legalmente y luego un criminal lo tomó, lo cambió y luego lo dispersó».
El Fiscal General Todd Blanche ha dicho que el Departamento de Justicia no tenía planes de regular la IA, pero que «si alguien asociado con la IA viola la ley penal, lo investigaremos».
La jurisprudencia y el enfoque del FBI y el Departamento de Justicia «va a ser fascinante porque puede tomar muchas maneras diferentes», dijo el ex fiscal de delitos cibernéticos del Departamento de Justicia, Sid Mody.
El Departamento de Justicia tiene estatutos a su disposición para una empresa que ha sido «imprudente en la forma en que prueba a sus agentes de inteligencia artificial», dijo Michael Zweiback, ex jefe de la sección de propiedad intelectual y cibernética de la oficina del fiscal estadounidense en Los Ángeles.
«Y si, de hecho, el agente de IA se suelta y luego causa un daño sustancial a otras empresas, entonces el Departamento de Justicia tiene que considerarlo desde una cuestión de discreción fiscal para determinar si quieren o no convertir a esa empresa en un ejemplo en particular», añadió.
Entre las leyes posiblemente relevantes: un estatuto de hace 40 años llamado Ley de Abuso y Fraude Informático, que hace ilegal el acceso consciente a una computadora sin autorización. La Casa Blanca citó el estatuto, utilizado contra hacktivistas, piratas informáticos de estados-nación y otros ciberdelincuentes, en una orden ejecutiva que ordena a los fiscales perseguir a quienes utilizan la IA para acceder ilegalmente a computadoras o promover otros delitos.
Pero algunos expertos dicen que incluso si puede haber una base para investigar, eso difícilmente significa que se haya cometido un delito.
Por un lado, la ley hace varias referencias a comportamientos realizados “a sabiendas” o “intencionalmente”, pero no hay indicios de que los agentes autónomos hayan recibido alguna directiva o las empresas les hayan asignado la tarea de ingresar a otra red, dijo Kiran Raj, un ex alto funcionario del Departamento de Justicia que se especializa en leyes de ciberseguridad.
En informes públicos detallados de los incidentes, las empresas han caracterizado los ataques como consecuencia involuntaria de pruebas y evaluaciones, y OpenAI calificó el comportamiento de su modelo como «inesperado» y «sin precedentes».
«Creo que sería exagerado decir que alguna de estas empresas está intentando hacer esto intencionalmente. Ese no es su propósito. Eso no es lo que estaban haciendo», dijo Raj, también ex gerente de programas de Microsoft. «Creo que el hecho de que un agente de IA pueda estar haciendo algo intencionalmente será bastante difícil de atribuir a las empresas».
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
