Google ha firmado un acuerdo para ampliar el acceso de su inteligencia artificial Gemini a redes clasificadas del Pentágono, permitiendo el uso de estos modelos para cualquier propósito gubernamental legal. Sin embargo, la compañía se retiró previamente de un programa del Departamento de Defensa estadounidense que pretendía desarrollar tecnología para enjambres autónomos de drones controlados por voz.
Este acuerdo, que modifica un contrato existente, concede al Pentágono permiso para desplegar la tecnología de IA sin restricciones específicas, salvo la prohibición de su uso en vigilancia masiva doméstica o armas autónomas sin supervisión humana adecuada. Sin embargo, la clausula que impide que Google pueda vetar decisiones operativas legales del gobierno genera dudas sobre la firmeza de estas limitaciones.
Antecedentes y respuesta interna en Google
La retirada de Google del proyecto de enjambres de drones, comunicado oficialmente en febrero citando falta de recursos, fue en realidad consecuencia de una revisión ética interna. Más de 600 empleados presentaron una carta a Sundar Pichai, director ejecutivo de la empresa, solicitando la cancelación del acuerdo clasificado con el Pentágono para evitar el mal uso de la inteligencia artificial desarrollada por la compañía.
Esta resistencia interna recuerda un episodio similar en 2018 con el proyecto Maven, en el que Google decidió no renovar un contrato para análisis de imágenes de drones tras una protesta de miles de empleados. La externalización de ese trabajo ha continuado desde entonces con un presupuesto mucho mayor gestionado por la empresa Palantir.
Implicaciones del acuerdo de IA clasificada
El director de inteligencia artificial del Pentágono, Cameron Stanley, ha señalado que uno de los objetivos es no depender de un único proveedor tecnológico, abriendo así el acceso a otros laboratorios y empresas de inteligencia artificial, como OpenAI o xAI.
El contrato obliga a Google a colaborar en la modificación de los ajustes de seguridad de sus sistemas de IA a pedido del gobierno, lo que puede implicar adaptaciones específicas para usos militares y operativos. Sin embargo, el acuerdo deja en entredicho qué grado de autonomía tendrá realmente Estados Unidos para emplear esta inteligencia artificial en escenarios confidenciales sin supervisión directa de Google.
La ética y los límites en la inteligencia artificial militar
El rechazo de Google a participar en desarrollos para enjambres autónomos responde a preocupaciones éticas en torno a la creación de sistemas de armas automatizadas, especialmente controlados por comandos de voz que podrían reducir el control humano efectivo.
Empresas relacionadas, como Anthropic, han rechazado firmar acuerdos que permitan el uso de sus tecnologías para fines militares sin restricciones explícitas. Esta decisión llevó a que el Pentágono los considerase un riesgo para la cadena de suministro, una calificación que ha sido judicialmente cuestionada.
La presión interna de los empleados de Google refleja la sensibilidad creciente en la industria tecnológica sobre el papel de la inteligencia artificial en aplicaciones militares, especialmente aquellas que involucran autonomía y riesgo de errores sin supervisión humana.
Perspectivas y contexto en el desarrollo tecnológico militar
Más allá de las valoraciones éticas, estas dinámicas marcan un punto relevante en la colaboración entre gigantes tecnológicos y organismos militares en la creación y despliegue de inteligencia artificial avanzada. La extensión del acuerdo para el acceso clasificado de Gemini indica que el Pentágono confía en la tecnología de Google, pero se enfrentan a tensiones internas y externas sobre sus posibles aplicaciones.
El abandono del proyecto de enjambres muestra cómo los debates éticos pueden limitar o condicionar el desarrollo de ciertas tecnologías militares dentro de las compañías tecnológicas, incluso cuando existe interés institucional por parte del gobierno.
En este contexto, el futuro del desarrollo de inteligencia artificial en el ámbito militar dependerá en medida notable de la gestión de estos conflictos internos, el diseño de marcos regulatorios más claros y la capacidad de las empresas para equilibrar innovación, defensa y responsabilidad social.
