Resumen del AMA de Sam Altman sobre el controvertido pacto de OpenAI con el Departamento de Guerra

El viernes por la noche, mientras las tensiones geopolíticas se convertían en un conflicto abierto en Medio Oriente, Sam Altman recurrió a X para anunciar un acuerdo que muchos en la comunidad tecnológica habían temido durante mucho tiempo, pero que pocos esperaban que se materializara tan abruptamente.

OpenAI había firmado oficialmente un acuerdo con el Departamento de Guerra de EE. UU. (DoW) para implementar sus modelos de vanguardia dentro de las redes clasificadas más sensibles del ejército. 

El anuncio desencadenó una tormenta inmediata y caótica. En cuestión de minutos, el hilo se convirtió en un campo de batalla de hashtags "Cancel ChatGPT", consultas puntuales de expertos en seguridad nacional y acusaciones incendiarias de vender el futuro de la humanidad.

Para una empresa fundada sobre el principio de garantizar que la AGI beneficie a toda la humanidad, el giro hacia un contratista de defensa principal se sintió como un cambio tectónico en el panorama moral de la industria.

El contexto de este giro repentino es tan dramático como el acuerdo en sí. Justo horas antes del anuncio de Altman, el presidente Donald Trump emitió una orden ejecutiva general que ordenaba a todas las agencias federales cesar inmediatamente el uso de tecnología de Anthropic, el principal rival de OpenAI.

El Secretario de Guerra Pete Hegseth etiquetó a Anthropic como un "riesgo de cadena de suministro para la seguridad nacional", una designación típicamente reservada para adversarios extranjeros como Huawei.

Anthropic supuestamente se había negado a otorgar al Pentágono acceso incondicional a sus modelos Claude, insistiendo en "líneas rojas" contractuales que prohibirían el uso de la tecnología para vigilancia masiva doméstica o armas letales totalmente autónomas.

Sam Altman, CEO de OpenAI

OpenAI entró en el vacío dejado por la salida de su rival. Mientras la administración exigía que los modelos de IA estuvieran disponibles para "todos los propósitos legales", OpenAI enmarcó su entrada no como una capitulación sino como un compromiso sofisticado. 

En su Ask Me Anything (AMA), Altman sostuvo que OpenAI aseguró las mismas barreras de seguridad que Anthropic buscaba, pero las logró a través de un enfoque de múltiples capas en lugar de un ultimátum.

Al aceptar trabajar dentro de los marcos legales existentes, citando la Cuarta Enmienda y la Ley Posse Comitatus, OpenAI efectivamente redujo un enfrentamiento que había amenazado con dejar al ejército de EE. UU. sin capacidades de IA de vanguardia durante una guerra activa.

Aspectos destacados clave del hilo de Altman de OpenAI

El hilo rápidamente pasó de relaciones públicas corporativas a un debate crudo sobre la ética de la guerra con IA. Una de las preguntas más gustadas abordó el cambio fundamental en la misión de OpenAI: ¿por qué pasar de la "mejora humana" a la colaboración de defensa?

La respuesta de Altman fue característicamente pragmática: "El mundo es un lugar complicado, desordenado y a veces peligroso. Creemos que las personas responsables de defender el país deberían tener acceso a las mejores herramientas disponibles".

Altman detalló las salvaguardas técnicas diseñadas para evitar que la IA se convierta en un ejecutor autónomo. 

Estas incluyen una estrategia de implementación "solo en la nube", que evita que los modelos se integren directamente en dispositivos periféricos o hardware de armas, y la implementación de "Ingenieros de Implementación de Campo" (FDE) para supervisar el uso clasificado. 

Sin embargo, el hilo permaneció escéptico. Los críticos señalaron una Nota de la Comunidad que destacaba que bajo la USA PATRIOT Act, el "uso legal" aún podría abarcar una vasta recopilación de datos.

Cuando se le preguntó sobre la probabilidad de que la IA cause una catástrofe global, Altman fue inusualmente breve, sugiriendo que la colaboración en seguridad nacional podría reducir el riesgo al mantener al estado y a los desarrolladores en la misma página.

Uno de los intercambios más reveladores involucró la gobernanza. Cuando se le preguntó si el gobierno federal podría eventualmente nacionalizar OpenAI, Altman admitió: "Lo he pensado, por supuesto, pero no parece muy probable en la trayectoria actual".

Esta admisión hizo poco para calmar a aquellos que ven el cambio de marca del Departamento de Guerra y la lista negra de Anthropic como los primeros pasos hacia una AGI gestionada por el estado.

Ética, precedente y la pérdida de control

Las implicaciones de este acuerdo se extienden mucho más allá de un solo contrato. Al aceptar la designación de riesgo de cadena de suministro de su competidor, OpenAI ha validado implícitamente un mundo donde el gobierno puede elegir ganadores y perdedores según el compromiso ideológico de una empresa con la utilidad militar.

Esto establece un precedente aterrador, como incluso Altman reconoció, donde las empresas privadas pueden sentirse presionadas a reducir sus barreras éticas para evitar ser etiquetadas como una amenaza a la seguridad nacional.

Desde un punto de vista ético, el requisito de mantener al humano en el circuito sigue siendo el punto más polémico.

Mientras OpenAI insiste en que los humanos conservarán la responsabilidad del uso de la fuerza, los expertos en defensa en el hilo señalaron que la política actual del DoW (Directiva 3000.09) es notoriamente vaga sobre lo que constituye un control humano significativo en el combate digital de alta velocidad. 

Sam Altman

Si una IA procesa datos de objetivos más rápido de lo que un humano puede parpadear, ¿está el humano realmente en el circuito o es simplemente un sello de goma para la decisión de una máquina?

El riesgo de pérdida de control de la AGI ya no es una preocupación teórica para el futuro distante; es una cuestión de cómo se comportarán estos modelos en el entorno de alto riesgo de la guerra clasificada.

Lea también: OpenAI recauda un récord de $110 mil millones de Amazon, NVIDIA y SoftBank para impulsar la IA

Cuando concluyó el AMA, la imagen de Altman en las memorias de los usuarios de OpenAI no era la de un visionario tecnológico idealista, sino la de un diplomático digital navegando un mundo de poder duro. 

Dejó el hilo con una conclusión aleccionadora: la era del desarrollo neutral de IA ha terminado. La decisión de OpenAI de integrarse con el Departamento de Guerra marca el comienzo de un nuevo capítulo donde la AGI es tratada como un activo estratégico del estado, en lugar de un bien público global.

La publicación Resumen del AMA de Sam Altman sobre el pacto controvertido de OpenAI con el Departamento de Guerra apareció primero en Technext.