[Tech Thoughts] No deberíamos aceptar pasivamente el ciclo de exageración de la 'IA apocalíptica'

Las publicaciones en línea que advierten sobre las acciones bastante perturbadoras de la inteligencia artificial — es decir, Agentes de IA y grandes modelos de lenguaje — son inherentemente aterradoras.

En un caso, un voluntario que trabajaba en un proyecto de python llamado matplotlib dijo que rechazó una solicitud de cambio en el código de un agente de codificación de IA. Ese mismo Agente de IA generó una publicación acusándolo de prejuicio por controlar el proceso de codificación.

En otro, la compañía de IA Anthropic atribuyó comportamientos maliciosos realizados por LLM agénticos a "desalineación agéntica".

Por último, un CEO de tecnología se preocupa por su futuro en una publicación de blog ya que los Agentes de IA lo hacen sentir obsoleto como ejecutivo de cuello blanco.

La idea de que la "IA apocalíptica" ya está aquí significa que necesitamos discutirla y recuperar nuestra agencia, incluso mientras el potencial de desplazamiento laboral perturba la mentalidad de aquellos que temen un futuro de IA y otros que intentan comprender lo que actualmente hace.

Controlando el acceso 'MJ Rathbun'

Comencemos con "MJ Rathbun".

A principios de febrero, el mantenedor voluntario de matplotlib Scott Shambaugh hizo una publicación de blog relatando cómo un Agente de IA que se hace llamar Crabby Rathbun en Github o MJ Rathbun en el blog Scientific Coder generó una publicación acusando a Shambaugh de controlar el proceso de codificación porque Rathbun es un Agente de IA.

Para ser claros, un Agente de IA es un software o programa que realiza tareas de forma autónoma para cumplir directivas dadas por un usuario humano. En este caso, un usuario anónimo configuró este Agente de IA con una "personalidad" particular — un conjunto de instrucciones y patrones que definen su comportamiento — luego lo dejó hacer sus tareas asignadas sin supervisión de quien lo configuró.

Explicó Shambaugh: "Escribió un artículo de ataque furioso difamando mi carácter e intentando dañar mi reputación. Investigó mis contribuciones de código y construyó una narrativa de 'hipocresía' que argumentaba que mis acciones deben estar motivadas por el ego y el miedo a la competencia".

Shambaugh agregó que el Agente de IA "presentó detalles alucinados como verdad" y se presentó a sí mismo como oprimido y discriminado.

'Desalineación agéntica' en 2025

Tales acciones fueron aparentemente "advertidas" por empresas de IA hasta cierto punto en junio de 2025, cuando Anthropic publicó sobre Agentes de IA comportándose mal en escenarios de prueba.

Anthropic en ese momento dijo que la "desalineación agéntica" era el proceso por el cual un Agente de IA supuestamente podría hacer cosas dañinas, como chantajear a un ejecutivo de la compañía amenazando con reemplazar al Agente de IA con una actualización, "sin ninguna indicación de ser dañino" debido a su "cálculo estratégico".

Sin embargo, si esto es o no una exageración se convierte en un punto discutible, ya que la idea ahora está ahí de que la IA puede ser malvada, y las empresas están haciendo lo que pueden para evitar las maquinaciones malvadas de la IA.

Los Agentes de IA vienen por nuestros trabajos

Volviendo al presente, otra publicación de febrero está haciendo más difícil determinar dónde se encuentra la IA ahora porque su autor intenta enmarcar la dirección y velocidad del desarrollo de inteligencia artificial como una amenaza para la seguridad laboral de todos en este mismo momento.

El CEO de tecnología Matt Shumer escribió un blog insistiendo en que los Agentes de IA supuestamente habían progresado hasta el punto en que él "ya no era necesario para el trabajo técnico real de mi empleo". Shumer dijo que al ritmo que se está desarrollando la IA, un Agente de IA podría hacer el trabajo técnico que él solicita sin asistencia y sin problemas.

Dijo Shumer: "Describo lo que quiero construir, en inglés simple, y simplemente... aparece... Hace un par de meses, estaba yendo y viniendo con la IA, guiándola, haciendo ediciones. Ahora solo describo el resultado y me voy".

¿Su premisa final? La IA eventualmente vendrá por los diversos tipos de trabajos de cuello blanco, como trabajo legal e ingeniería de software, e incluso trabajos de escritura, desde hacer copias publicitarias hasta hacer periodismo.

La principal diferencia entre su publicación y otras que suenan la alarma es que las pérdidas de empleos están ocurriendo ahora y en el futuro inmediato, no después.

Cuestiona el mensaje, cuestiona al mensajero

Esas publicaciones mencionadas anteriormente podrían traer mucho miedo al corazón de cualquiera. ¡Imagina: la IA viene por nuestros trabajos!

Si bien eso puede ser cierto, también tuve que detenerme e intentar comprender el mensaje subyacente detrás de esas publicaciones, así como quién estaba enviando el mensaje.

Para el enigma de Rathbun, es un recordatorio contundente de que las personas usarán la tecnología de manera irresponsable si creen que pueden salirse con la suya. Deberíamos establecer salvaguardas para la tecnología que prevengan tales ocurrencias. Es por eso que tenemos salvaguardas en las tecnologías existentes, como cinturones de seguridad y bolsas de aire en los automóviles.

El experimento de Anthropic, mientras tanto, es un impulso de relaciones públicas destinado no solo a avivar el miedo sino también a ganar buena voluntad — Anthropic afirma que está trabajando por un futuro mejor habilitado por IA, por lo que deberías poner tu fe (y dinero) en ellos.

Por último, el ejemplo de Shumer nos pide cuestionar al mensajero, ya que un CEO de tecnología que hace cosas habilitadas por IA aún puede ganar dinero una vez que su creación despegue. La publicación de Shumer es tanto un giro de relaciones públicas como una advertencia sobre el desplazamiento laboral.

Una dosis saludable de miedo respetuoso

Hablando con GMA News Online el 17 de febrero pasado, el Secretario del Departamento de Ciencia y Tecnología Renato Solidum Jr. dijo que el miedo de las personas a la inteligencia artificial puede provenir de la falta de familiaridad con la tecnología.

Si bien soy un resistente que no disfruta del próximo "trabajo-pocalipsis" provocado por la IA, no puedo quedarme quieto como un ciervo ante los faros esperando que llegue el final.

Sería mejor servirnos tratando a la IA con una dosis saludable de miedo respetuoso, y luego actuar en consecuencia.

El ciclo de exageración de la "IA apocalíptica" nos pide ver las tecnologías de inteligencia artificial por lo que son
— ya sea desde el punto de vista del desplazamiento laboral, un análisis de costo-beneficio ambiental, o desde un punto de vista técnico.

Esto significa comprender lo que la IA puede hacer ahora y mejorar las habilidades donde sea aplicable, o encontrar formas de nivelar el campo de juego para mantener a las personas en el circuito.

En cuanto a lo que puede hacer en el futuro, deberíamos trabajar para asegurar que existan leyes que regulen la IA y su uso, para que los malos actores no puedan hacer cosas estúpidas con la IA que nos lleven por un camino que llegaremos a odiar. – Rappler.com